Bu olay, yapay zeka teknolojisinin gölgesindeki karanlık bir yüzü gözler önüne seriyor.
Kaliforniya’da yaşanan bu olay, yapay zeka ses teknolojilerinin kötüye kullanımının ne kadar ciddi sonuçlar doğurabileceğini gösteriyor. Bir yaşlı adam, kendisini arayan ve sesi tıpatıp oğlu gibi olan bir kişi tarafından dolandırıldı. Bu dolandırıcı, yapay zeka ses teknolojisi sayesinde oğlu gibi konuşarak yaşlı adamın güvenini kazanmış ve 25.000 dolarını almayı başardığını görüyoruz.
Tüm olay Anthony’nin oğlunun bir kazaya karıştığı ve yukarıda bahsi geçen kadının hastaneye kaldırılması gerektiği konusunda bilgilendirilmesiyle başladı. İlk telefondan sonra ikinci telefon Anthony’nin oğlunun avukatı Michael Roberts’tan geldi ve oğlunun kefaleti için 9,200 dolar gerektiğini söyledi. Eğer gerekli miktar ödenmezse, oğlu 45 gün boyunca hapiste kalacaktı. Anthony, oğlunun gerçekten bir kazaya karışıp karışmadığını doğrulamak için onu aramayı denedi, ancak arama sürekli telesekretere düşüyordu.
Buna kanmalarının en büyük nedeni, Anthony’nin yetkililere telefondaki kişinin sesinin tıpkı oğlunun sesine benzediğini söylemesi. LAPD dedektifi Chelsea Saeger, bu tür dolandırıcılıkların yeni bir şey olmadığını ve yapay zeka destekli ses jeneratörlerinin dahil edilmesinin aile üyelerini bunlara karşı duyarlı hale getirdiğini söylüyor. Bu kişilere gönderilen çağrılar ve bildirimler de inanılmaz derecede gerçekçi göründüğünü söyleyebiliriz.
“Dolandırıcılar giderek daha zeki ve sofistike hale geliyor. Sosyal medyayı ve teknolojiyi kullanarak son derece inandırıcı ve ikna edici hikayeler üretiyorlar ve insanlar gerçekten de torunlarıyla ya da bir devlet görevlisiyle konuştuklarına inanıyorlar.”
Anthony, hikayeden dolayı utanç duyduğunu, ancak binlerce kişinin mesajı alacağını ve devam eden bu dolandırıcılıkların kurbanı olmayacağını umduğunu söyledi. Bir hatırlatma olarak, bu alçakça faaliyetler konusunda farkındalık sahibi olunmalıdır çünkü yapay zeka ses jeneratörleri zamanla gelişecek ve sahte ile gerçek arasındaki çizgiyi bulanıklaştıracaktır. Anthony’nin oğlu arandıktan sonra cevap vermediği için baskıya maruz kalması ve kurban olması anlaşılabilir bir durum olup, diğer aile üyelerinin bu tür olaylara karşı tetikte olmalarını önemli kılmaktadır.
