Bir İngiliz bankası, “milyonlarca” insanın seslerini klonlamak için yapay zeka kullanan dolandırıcılıkların kurbanı olabileceği uyarısında bulundu.

Yalnızca internet üzerinden kredi veren Starling Bank, dolandırıcıların yapay zekayı kullanarak, örneğin kişinin internette yayınladığı bir videoda bulunan yalnızca üç saniyelik sesten bir kişinin sesini kopyalayabildiğini söyledi. Dolandırıcılar daha sonra kişinin arkadaşlarını ve aile üyelerini belirleyebilir ve para istemek için bir telefon görüşmesi yapmak üzere yapay zeka ile klonlanmış sesi kullanabilir.

Starling Bank Çarşamba günü yaptığı basın açıklamasında, bu tür dolandırıcılıkların “milyonları yakalama” potansiyeline sahip olduğunu söyledi.

Şimdiden yüzlerce kişiyi etkilediler bile. Bankanın geçen ay Mortar Research ile birlikte 3.000’den fazla yetişkinle yaptığı bir ankete göre, katılımcıların dörtte birinden fazlası son 12 ay içinde bir yapay zeka ses klonlama dolandırıcılığının hedefi olduklarını söyledi.

Anket ayrıca, katılımcıların %46’sının bu tür dolandırıcılıkların varlığından haberdar olmadığını ve %8’inin, aramanın tuhaf göründüğünü düşünseler bile, bir arkadaş veya aile üyesi tarafından talep edilen kadar para göndereceğini gösterdi.

Banka, insanları sevdikleriyle telefonda kimliklerini doğrulamak için kullanılabilecek basit, rastgele, hatırlaması kolay ve diğer şifrelerinden farklı bir “güvenli cümle” üzerinde anlaşmaya teşvik ediyor.

Kredi kuruluşu, dolandırıcıların öğrenmesini kolaylaştırabileceği için güvenli ifadenin mesaj yoluyla paylaşılmamasını, ancak bu şekilde paylaşılması halinde mesajın diğer kişi tarafından görüldükten sonra silinmesini tavsiye ediyor.

Yapay zeka insan sesini taklit etme konusunda giderek daha becerikli hale geldikçe, örneğin suçluların banka hesaplarına erişmelerine yardımcı olarak ve yanlış bilgi yayarak insanlara zarar verme potansiyeli konusunda endişeler artıyor.

Bu yılın başlarında, üretken yapay zeka sohbet robotu ChatGPT’nin üreticisi OpenAI, Voice Engine adlı ses kopyalama aracını tanıttı, ancak “sentetik sesin kötüye kullanılma potansiyelini” gerekçe göstererek o aşamada bunu kamuya açmadı.