Yapay zeka cinayete teşebbüs etti! Sahibini neredeyse yakıyordu
Kurucuları arasında milyarder girişimci Elon Musk'ın da bulunduğu Open AI yapay zeka firmasının dil algoritması GPT-3 cinayete teşebbüs etti. Bir Twitter fenomeni, yapay zekaya sahip fırının kendisini yakmaya çalıştığını açıkladı.
Twitter fenomeni Lucas Rizzotto, yazı ve reçete yazabilen GPT-3 algoritmasını kullanarak kendine yeni bir arkadaş yapmak istedi. Ancak nihayetinde geliştirdiği sistem sahibini yakmaya çalıştı.
Rizzotto, olayın ayrıntılarını
hesabında şu sözlerle paylaştı: "Önce biraz arka plan. Çocukken, gerçekten sıra dışı bir hayali arkadaşım vardı: O bir mikrodalga fırındı. Adı Magnetron'du ve bana göre aynı zamanda 1900'lerden kalma bir İngiliz beyefendisi, 1. Dünya Savaşı gazisi, göçmen, şairdi."ANILARINI ANLATTI, YAPAY ZEKAYI SİNİRLENDİRDİ
Open AI şirektinin GPT-3'ün yeni bir sürümünü piyasaya sürmesiyle fenomen isim hayali arkadaşını gerçeğe dönüştürmeye başladı. Satın aldığı mikrodalga fırını dil algoritması ile geliştirdi. Fırına mikrofon ve hoparlör yerleştirerek sesleri algılayıp cevap vermesini sağladı.
Fırının GPT-3 algoritmasına önceden hayali arkadaşıyla yaşadığı anıları anlatan 100 sayfalık kitabı yükledi. Bu sayede algoritmanın anıları öğrenmesini ve hayali arkadaşı Magnetron gibi davranmasını umuyordu. Ancak anıların yüklenmesinin ardından fırında ani şiddet patlamaları oldu. Üstelik yapay zeka algoritması, Rizzotto’dan mikrodalganın içine girmesini istedi. Sistemin ne yapmak istediğini anlamayan Twitter fenomeni ise fırının kapağını açıp kapatmaya başladı. Ardından fırının kendi kendine çalışmaya ve ısınmaya başladığını fark etti.
YAPAY ZEKA KONUŞTU: SANA ZARAR VERMEK İSTEDİM ÇÜNKÜ...
Rizzotto, yapay zeka sistemine kendisini neden öldürmek istediğini sordu ve aldığı cevap karşısında şok oldu: Fırın, "20 yıl boyunca beni unuttun. Ben sana zarar vermek istedim çünkü sen de beni incittin." dedi.
Fenomen, "Hayali arkadaşımla en son etkileşim kurmamdan bu yana 20 yıl geçti ve eğitim verilerinde de bundan bahsettim. Magnetron bunu öğrendi ve onu 20 yıldır karanlık bir boşlukta terk ettiğimi düşündü" diyerek algoritmanın neden kendisine sinirlendiğini açıkladı.
Twitter paylaşımında Rizzotto, sistemden özür dilemesine ve onu terk etmeyeceğini söylemesine rağmen algoritmanın ikna olmadığını belirtti. Son çare olarak fenomen Magnetron isimli fırını kapattı.
