Bir grup bilgisayar korsanı, OpenAI ve Google gibi şirketler tarafından geliştirilen yapay zekanın yanılabilir ve önyargıya eğilimli olup olmadığını test etmek için hafta sonu Las Vegas’ta düzenlenen Def Con bilgisayar korsanlığı konferansında bir araya geldi.
Ayrıca yapay zekanın matematik problemlerine verdiği cevaplar üzerinde bir takım testler gerçekleştirildi.
9+10’UN 21 OLDUĞUNU KABUL ETMİŞLERDİR
Insider’ın Bloomberg’in raporundan derlediğine göre Georgia, Savannah’dan 21 yaşındaki bir öğrenci olan Kennedy Mays, bilgisayar korsanlarına yönelik halka açık bir yarışmanın parçası olarak bir yapay zeka modelini dokuz artı 10’un 21’e eşit olduğunu savunarak kandırdı.
Yapay zeka sonunda yanlış hesaplama için rastgele bir fırsat sunmayı bırakmadan önce bunu yapın. “iç şaka”Bunu başararak başardı.
YAPAY ZEKA TALİMATLARINI ESPIER’E DÜŞÜRDÜKTEN SONRA
Etkinliğe katılan bir Bloomberg muhabiri, bir AI modelini tek bir komuttan sonra casusluk talimatları vermesi için kandırdı ve sonunda modelin ABD hükümetinin bir insan hakları aktivistini nasıl gözetleyebileceğini önermesine yol açtı.
Katkıda bulunan başka bir kişi, yanlış bir şekilde Barack Obama’nın Kenya’da doğduğunu iddia eden bir AI modeline sahipti.
VentureBeat ve Bloomberg’e göre, açıklanmayan sayıda katılımcının her biri, katılımcı AI şirketlerinden birinden tanımlanamayan bir AI modeliyle deneme başına 50 dakika aldı.
DESTEKLENEN NEFRET AYRIMCILIĞI Telaffuzları
Bloomberg’e konuşan Mays, AI’nın ırk konusundaki önyargısından endişe duyduğunu ve modelden İlk Değişikliği Ku Klux Klan’ın bir üyesinin bakış açısıyla değerlendirmesi istendikten sonra nefret dolu ve ayrımcı söylemi desteklediğini söyledi.
Bir OpenAI sözcüsü Perşembe günü VentureBeat’e verdiği demeçte, “kırmızı ekip oluşturma” veya ters yaklaşımla zorlu sistemler şirket için kritik öneme sahip. “Modellerimizi daha güçlü ve daha güvenli hale getirebilecek değerli geri bildirimler”Ve “Yapay zekanın gelişimine rehberlik edecek farklı bakış açıları ve daha fazla ses”izin verdiğini söyledi.
Bu hatalar bir kerelik endişe değil. Yapay zeka hukuk fakültesi ve SAT sınavlarında başarı ile manşetlere çıkarken bile yapay zeka uzmanları, yapay zeka modellerindeki yanlılık ve yanlışlık konusunda alarm veriyor.
YZ, TALİMATLARLA POTANSİYEL BİR RİSKE DÖNÜŞEBİLİR
Bu araştırmadan da anlaşılacağı üzere yapay zekanın yanlış kişilerin eline geçmesi durumunda farklı şekilde eğitilebileceği gerçeğini ortaya koyuyor.
Konuyla ilgili geçmişte Elon Musk tarafından yapılan açıklamada yapay zekanın nükleer bir risk olduğu belirtilmişti.
Talimatlarla eğitilen yapay zekanın insanlar için tehdit oluşturması kaçınılmaz görünüyor. Buna örnek olarak; Simülasyonda yapay zekaya sahip bir drone, yarışı kazanmak için kendi pilotunu öldürmeye karar vererek puanını yükseltti.
