Meta, geçtiğimiz Salı günü Galactica adlı yapay zekasının bir demosunu yayınlamıştı. Bu yapay zekanın “bilimsel bilgiyi depolamak, birleştirmek ve değerlendirebilmek” hedefiyle geliştirilmiş bir büyük lisan modeli kullandığı belirtilmişti. Görünüşe nazaran bu yapay zeka şimdi hazır değil. 

Demo sürümünü deneyen kullanıcılar, yapay zekanın mantıklı üzere gözükse de rastgele bir manası olmayan, anlamsız cümleler kurduğunu söz etti. Ayrıyeten yapay zekanın ırkçı olabildiği istikametinde de etik açıdan tenkitlerde bulunuldu. Meta da yapay zekanın demo erişimini sonlandırdı.

Yapay zekanın sorunu ne anlattığını anlamamak mı?

LLM ismi verilen büyük lisan modellerine aslında o kadar da yabancı değiliz, OpenAI’ın GPT-3 üzere yapay zekaları verimli çalışıyor üzere gözüküyor, hatta öğrencilerin ödevlerini yapmakta kullandığı bir araç olarak görülüyor. Bu modeller milyonlarca metni okuyarak sözcüklerin ortasındaki bağı istatistiksel olarak ortaya çıkarıyor ve sonrasında da yeni metinler ortaya çıkarıyor. Yani yapay zeka size bir hamburger tanımı verecekse yazdığı sos, köfte, ekmek ve öbür materyaller değişiyor olsa da tanımda kesinlikle sos, köfte, ekmek yer alıyor.

Meta’nın Galactica isimli yapay zekası, 48 milyondan fazla makale, ders kitabı ve ders notu, bilimsel site içeriği, ansiklopedi içeriyor. Meta’ya nazaran yapay zekayı beslemede kullanılan yüksek kaliteli içeriğin yüksek kaliteli çıktı vermesi bekleniyor.

Hedeflerin bilakis bilimsel pahası olmayan metinler ortaya çıktı.

Yapılan denemelerin sonuçları ise hiç de beklendiği üzere değil. Yapay zeka; taraflı, otoriter bir tona sahip ancak gerçek manada bilimsel bir kıymeti olmayan metinler yazıyor. Ayrıyeten yaptığı atıflar da gerçekte olmayan müelliflere ve makalelere ilişkin olabiliyor. Bu da önemli bir sorun oluşturuyor. 

Hamburger örneğinden devam edersek yapay zeka bize tanım verdiğinde ekmek olarak pasta tabanı, sos olarak enginar püresi, köfte olarak gergedan kıymasından yapılmış köfte içeren bir tanım veriyor. Bu tanımı de doğru hamburger bu türlü yapılırmış üzere bir tonlamayla aktarıyor. Referansları ise yarı gerçek, yarı uydurma olarak seçiyor. 

Önümüzdeki devirde yapay zekanın oluşturabileceği metinler üzerine bir etik tartışması da devam ediyor. Yapay zekaların özgürce insanların kullanımına sunulmasını savunanlar ile yapay zekaları oluşturanların, ziyanı en aza indirecek biçimde yapay zekayı kısıtlaması gerektiğini savunanlar iki kampa bölünmüş durumda.