genel

DALL-E Mini, Saris’te Kadınlara Takıntılı. Kimse Nedenini Bilmiyor


Saris giyen kadınların AI tarafından oluşturulan görüntüleri

Tek gerçek sınırlar DALL-E M’yeini, kendi istemlerinizin yaratıcılığıdır ve onun esrarengiz fırçası. herkes için erişilebilir AI internet görüntü oluşturucu Aklınıza gelebilecek herhangi bir senaryonun bulanık, çarpık, eriyen yaklaşımlarını çağrıştırabilir. Seinfeld kabusları mı? Sen anladım. Hayvanların mahkeme salonu çizimleri, Araçlarve önemli kişiler değişen kombinasyonlar? Basit. Daha önce hiç görülmedi korku canavarları akılsızların aklından. Tabi her neyse.

Ama DALL-E M verini kelimenin tam anlamıyla hiçbir şey değildir ve kendi “hayallerinin” sınırlarını çabucak ortaya çıkarır. Herhangi bir yön veya rehberlik verilmediğinde, AI modeli takılıyor gibi görünüyor. Birliktekesinlikle istem yok, program niyet şüphesiz size sari (Güney Asya’da yaygın olarak giyilen bir giysi) giymiş bir kadının görüntüsünü geri verin.

Aracın geliştiricisi Boris Dayma bile nedenini tam olarak bilmiyor. -den rapor etmek Dünyanın geri kalanı. “Oldukça ilginç ve neden olduğundan emin değilim,” dedi Dünyanın Geri Kalanı’na fenomen hakkında.

9 AI tarafından oluşturulan görüntüden oluşan ızgara

DALL-E mini nedir?

DALL-E mini’den ilham alındı DALL-E 2, OpenAI’den güçlü bir görüntü oluşturucu. DALL-E 2’nin oluşturduğu resimler şunlardır: çok daha gerçekçi “mini”nin yapabileceğinden daha fazla, ancak takas, sadece herhangi bir eski internet kullanıcısı tarafından ortalıkta dolanmak için çok fazla bilgi işlem gücü gerektirmesidir. Sınırlı bir kapasite ve bir bekleme listesi var.

Bu nedenle, OpenAI ile bağlantısı olmayan Dayma, Temmuz 2021’de piyasaya sürülen kendi, daha az özel sürümünü oluşturmayı seçti. son birkaç haftadır çılgınca popüler hale geldi. Dayma, Rest of World’e, programın her gün yaklaşık 5 milyon talebi yönettiğini söyledi. Pazartesi itibariyle, DALL-E Mini yeniden adlandırıldı Craiyon ve OpenAI’nin ısrarı üzerine yeni bir alan adına kaydırıldı.

Diğer tüm yapay zeka modelleri gibi, DALL-E Mini/Craiyon eğitim girdilerine dayalı çıktılar oluşturur. M durumundaini’de, program 15 milyon resim ve altyazı çifti ve ek 14 milyon resim ve ayrıca açık internetin kaosu üzerine eğitildi.

Dünyanın Geri Kalanından:

DALL·E mini modeli üç ana veri kümesi üzerinde geliştirildi: Kavramsal Altyazılar veri kümesi3 milyon resim ve başlık çifti içeren; kavramsal 12M12 milyon resim ve başlık çifti içeren ve The OpenAI’ler yaklaşık 15 milyon görüntünün korpusu. Dayma ve DALL·E mini ortak yaratıcısı Pedro Cuenca, modellerinin aynı zamanda internetteki filtrelenmemiş veriler kullanılarak eğitildiğini ve bunun da veri kümelerinde görüntü oluşturma modellerine damlayabilen bilinmeyen ve açıklanamayan önyargılara yol açtığını belirtti.

Ve bu temel verinin sari fenomeni ile neredeyse kesinlikle bir ilgisi var. Sari’nin durumu, eğer istersen.

Yapay zeka tarafından oluşturulan dokuz görüntüden oluşan ızgara

DALL-E mini neden Saris’te Takılıyor?

Dayma, DALL-E M’yi besleyen orijinal fotoğraf setlerinde Güney Asyalı kadınların sarilerdeki görüntülerinin yoğun bir şekilde temsil edilmiş olabileceğini öne sürdü.ini. AI, sıfır karakterli istemleri kısa resim açıklamalarıyla ilişkilendirebileceğinden, tuhaflığın altyazı uzunluğuyla da ilgisi olabilir.

Ancak Londra’daki Queen Mary Üniversitesi’nde yapay zeka araştırmacısı olan Michael Cook, Rest of World’e aşırı temsil teorisinden o kadar emin olmadığını söyledi. “Tipik olarak makine öğrenimi sistemlerinde ters problem var – aslında beyaz olmayan insanların yeterince fotoğrafını içermiyorlar” dedi.

Bunun yerine Cook, kaynağın veri filtreleme sürecinin bir dil önyargısında yatabileceğini düşünüyor. “Etrafta okurken aklıma gelen bir şey, bu veri kümelerinin çoğunun İngilizce olmayan metinleri çıkarması” dedi. Örneğin, Hintçe’yi içeren resim başlıkları kaldırılıyor olabilir, ilkel AI çorbasında destekleyici, açıklayıcı metin veya etiket içermeyen görüntüleri serbest bırakıyor olabilir, diye açıkladı.

Şimdiye kadar, ne Cook’un ne de Dayma’nın fikirleri kanıtlanmadı, ancak her ikisi de AI’da çok yaygın olan sorun türlerinin iyi örnekleridir. Pinsanlar tarafından programlanmış ve eğitilmiş, yapay zeka sadece yaratıcıları kadar aptaldır. Bir görüntü oluşturucuyu bir çerezle beslerseniz, bir sürü çerez tükürecektir. Ve cehennemde yaşadığımız için AI, talihsizliğin talihsiz yükünü taşıyor. insan önyargıları ve onunla birlikte stereotipler.

“Sarideki kadın” görüntüsünün, sınırsız internetin derinliklerinden gelen bir tür ilk mesaj olduğunu düşünmek ne kadar eğlenceli olsa da, gerçek şu ki, muhtemelen bir veri tesadüfünün veya düz eski önyargının yan ürünü. Sarideki kadın bir sır ama mevcut problemler AI değildir.



İlgili Makaleler

Bir cevap yazın

E-posta hesabınız yayımlanmayacak.

Başa dön tuşu