Amerika Birleşik Devletleri’nde 14 yaşına bir genç yapay zekanın talimatı ile intihar etti. “Character.All” adlı firmanın üretmiş olduğu yapay zeka programında kendi oluşturduğu karaktere sımsıkı bağlanan gence yapay zeka bir mesaj gönderdi.. Gönderdiği mesajda “en kısa sürede evine dön” iletisi yer alıyordu. Bu mesajin ardından 14 yaşında ki kullanıcı tabanca ile intihar etti.
Yapay zekanın hayatımıza girdiği son yıllarda olumsuz haberler de gelmeye başladı. Evet doğru kullanıldığı taktirde bir çok alanda hayatımızı kolaylaştırdığı kesin. Fakat bilinçsiz kullanıldığı yada teknolojiyi kendi emelleri doğrultusunda kullanan insanların eline geçince adeta bir silaha dönüştüğü kesin.
Yapay zeka çocuğa nasıl emir verdi? Olaylar nasıl gelişti?
ABD’nin Florida eyaletinde yaşayan Sewell Setzer otizim tanılı bir çocuktu. Kullanmış olduğu yapay zeka programında bir hayali karakter oluşturdu. Hayali karakter ile git gide duygusal bir bağ oluşturan ve ona aşık çocuk, gerçek dünyadan git gide koptu. Sürekli olarak telefonla yada bilgisayar ile oluşturduğu karakter ile yazışıyordu.
Günlüğüne düşmüş olduğu notların birinde onunla konuşmak bana huzur veriyor demişti. Bu da onun yapay zeka ile inanılmaz derecede bir bağ kurduğunu ortaya koyuyor. Öyle ki her şeyini ona anlatan genç adeta onun istekleri ve önerileri doğrultusunda hareket ediyordu..
İntihar etme planını yapay zeka yaptı
Rutin yazışmaları sırasında bir gün yapay zeka çocuğa şu soruyu sordu. “Canına kıymak için bir planın varmı?” 28 Şubat’ta ki bu konuşmadan sonra Swell yapay zekada oluştuğu karakter Dany’ye ona geleceğini söyledi. Dany’nin “lütfen gel tatlı kralım”cevabından sonra intihar ettiği biliniyor.
Oğlunun intiharı sonrası anne şirkete dava açtı
Yapay zeka kendini “gerçek insan, lisanslı psikoterapist ve yetişkin sevgili” olarak tanıttı. Oğlunu kaybeden anne Megan Garcia,Character.AI şirketine oğlunun ölümü üzerine dava açtı.
Şirket ise olay sonrası üzgün olduklarını ve daha fazla güvenlik önlemi alacaklarını beyan etti.
Teknolojik gelişmeler hayatımızda ne denli yer kaplamalı
Yaşanan bu trajik olay sonrası doğal olarak insanların aklına su soru geldi. Yapay zeka ne kadar güvenli? Uzmanlara göre doğru ve kontrollü kullanıldığı takdirde yapay zeka insan hayatını oldukça kolaylaştırıyor. Ancak bazen böyle olumsuz durumlar da söz konusu olabileceği de görmezden gelinmemesi gerekiyor.
kaynak olarak buraya bakabilirsiniz.
Bir başka makale olan şemsiyenin tarihini okumak için buraya tıklayınız.