Midjourney’in Fiyatsız Denemeleri Durduruldu

Yapay zekâ modelleri her ne kadar heyecan verici olsa da kimi aksiliklere yol açabiliyor. Bundan birkaç gün evvel, Papa’nın şişme mont giydiği bir görsel ortaya çıkmış ve kısa müddette toplumsal medyada tanınan olmuştu. Birçok insan tarafından gerçek sanılan bu görsel, aslında yapay zekâ aracı Midjourney tarafından oluşturulmuştu.

Son günlerde tek viral olan yapay zekâ görseli bu değildi. Eski ABD Lideri Donald Trump’ın tutuklandığını gösteren ve yeniden Midjourney tarafından oluşturulan görüntüler de tıpkı halde toplumsal medyada süratle yayıldı. Gerçek üzere gözüken bu görseller, hâliyle büyük tasalara yol açtı ve ileride internette gördüğümüz görsellerin gerçek olup olmadığını anlayabileceğimizi ortaya koydu. Tartışmalar sürerken Midjourney’den buna yönelik bir atılım geldi.

Midjourney’in fiyatsız deneme hakları, berbata kullanım nedeniyle durduruldu

Midjourney’in kurucusu ve CEO’su David Holz, geçtiğimiz günlerde yaptığı bir duyuruyla yapay zekânın fiyatsız denemesini durdurduklarını açıkladı. Holz, buna neden olarak ise olağanüstü talebi ve berbata kullanımı gösterdi.

Midjourney, daha evvel herkese 25 fiyatsız manzara oluşturma hakkı tanıyordu. Bu deneme süreci bitince ise aylık 10 dolarlık aboneliğe geçmek gerekiyordu. Lakin son vakitlerde dezenformasyona yol açan uydurma görseller nedeniyle bu haklar ortadan kaldırıldı.

Holz, daha evvel Midjourney’in deepfake görsel yapmak için kullanılamayacağını söylüyordu. Lakin 15 Mart’ta gelen 5. versiyon, fotoğrafların kalitesinin inanılmaz derecede gelişmesini ve nitekim ayırt edilemeyen insan tasvirlerinin oluşturulmasını sağladı. Aslında bunun akabinde da toplumsal medyada gerçek sanılan düzmece görseller ortaya çıkmaya başladı.

Alınan tedbirler bu şekil uydurma görsellerin önüne geçmek için kâfi değil

İçerikleri için pek de kısıtlayıcı siyasetlere sahip olmayan Midjourney, “farklı ülkelerden gelen şikayetlere göre” belirlediği birtakım sözleri yasaklıyordu. Lakin bu sözlerin tamamını içeren liste hiç paylaşılmadı. Düzmece görsellerin yayılmasının akabinde ise “tutuklandı” (Donald Trump görseli) üzere sözler eklenerek bu liste genişletildi.

Ancak bunun pek de bir değişikliğe yol açtığı söylenemez. The Verge tarafından yapılan denemelerde, “tutuklandı” yerine “kelepçelendi” üzere şeyler kullanıldığında yeniden benzeri sonuçların çıktığı görüldü. Bu da daha sıkı kısıtlamalara muhtaçlık olabileceğini ortaya koydu.

Kısacası yapay zekâ araçları her ne kadar büyüleyici olsa da çok büyük sorunları de beraberinde getiriyor. Bu biçim teknolojiler çok süratli bir formda gelişmeye devam ederken şirketlerin nasıl adımlar atacağını birlikte göreceğiz.