Meta, gectiğimiz Salı gunu Galactica adlı yapay zekasının bir demosunu yayınlamıştı. Bu yapay zekanın “bilimsel bilgiyi depolamak, birleştirmek ve değerlendirebilmek” amacıyla geliştirilmiş bir buyuk dil modeli kullandığı belirtilmişti. Gorunuşe gore bu yapay zeka henuz hazır değil.
Demo surumunu deneyen kullanıcılar, yapay zekanın mantıklı gibi gozukse de herhangi bir anlamı olmayan, anlamsız cumleler kurduğunu ifade etti. Ayrıca yapay zekanın ırkcı olabildiği yonunde de etik acıdan eleştirilerde bulunuldu. Meta da yapay zekanın demo erişimini sonlandırdı.
Yapay zekanın sorunu ne anlattığını anlamamak mı?
LLM adı verilen buyuk dil modellerine aslında o kadar da yabancı değiliz, OpenAI ’ın GPT-3 gibi yapay zekaları verimli calışıyor gibi gozukuyor, hatta oğrencilerin odevlerini yapmakta kullandığı bir arac olarak goruluyor. Bu modeller milyonlarca metni okuyarak sozcuklerin arasındaki bağı istatistiksel olarak ortaya cıkarıyor ve sonrasında da yeni metinler ortaya cıkarıyor. Yani yapay zeka size bir hamburger tarifi verecekse yazdığı sos, kofte, ekmek ve diğer malzemeler değişiyor olsa da tarifte mutlaka sos, kofte, ekmek yer alıyor.
Meta ’nın Galactica adlı yapay zekası, 48 milyondan fazla makale, ders kitabı ve ders notu, bilimsel site iceriği, ansiklopedi iceriyor. Meta ’ya gore yapay zekayı beslemede kullanılan yuksek kaliteli iceriğin yuksek kaliteli cıktı vermesi bekleniyor.
Hedeflerin aksine bilimsel değeri olmayan metinler ortaya cıktı.
Yapılan denemelerin sonucları ise hic de beklendiği gibi değil. Yapay zeka; taraflı, otoriter bir tona sahip ancak gercek anlamda bilimsel bir değeri olmayan metinler yazıyor. Ayrıca yaptığı atıflar da gercekte olmayan yazarlara ve makalelere ait olabiliyor. Bu da ciddi bir sorun oluşturuyor.
Hamburger orneğinden devam edersek yapay zeka bize tarif verdiğinde ekmek olarak pasta tabanı, sos olarak enginar puresi, kofte olarak gergedan kıymasından yapılmış kofte iceren bir tarif veriyor. Bu tarifi de doğru hamburger boyle yapılırmış gibi bir tonlamayla aktarıyor. Referansları ise yarı gercek, yarı uydurma olarak seciyor.
Onumuzdeki donemde yapay zekanın oluşturabileceği metinler uzerine bir etik tartışması da devam ediyor. Yapay zekaların ozgurce insanların kullanımına sunulmasını savunanlar ile yapay zekaları oluşturanların, zararı en aza indirecek şekilde yapay zekayı kısıtlaması gerektiğini savunanlar iki kampa bolunmuş durumda.