Deepfake, Ses klonlama ile Adım Adım Geleceğe

Kasım ayında yapılan Dünya internet konferansında normalden farklı bir şeyler vardı bu sefer. Tanıtılan bu Çin’li bu tv spikerinin en büyük farkı; değişmeyecek, yaşlanmayacak ve ölmeyecek olması. Çünkü o insan değil. Dünyanın ilk yapay zeka spikeri. Aslında “yapay zeka” yerine “sanal kukla” deyimini kullanmayı tercih ederim. Çünkü izlediğimiz görüntüler tümüyle yapay değil. Biri İngilizce diğeri Çince konuşan iki gerçek haber spikeri model olarak kullanılmış. Sonra da makine öğrenmesi teknikleriyle bu iki spikerin yüz ifadeleri, jestleri, mimikleri, sesleri bilgisayar tarafından incelenmiş ve bu iki sanal spiker ortaya çıkmış.

Bir yazıyı bir bilgisayarın okuması ya da seslendirmesi de epeyce bir zamandır gündemimizde. Text-to-Speech (yazıdan konuşmaya) teknolojisi pek çok yerde kullanılıyor. Bu teknolojiyi bir çoğumuz Google Translate’ten hatırlayacağız. Bu araçlar kutuya yazdığınız metni düzgün bir diksiyonla okuyor.Siz ne yazarsanız onu seslendiriyor. Bu tür teknolojilerde yine modellenen bir ses kaynağı, bir sunucu var ve ona bir dildeki tüm sesleri, heceleri ve bazen de kelimeleri okutuyorlar. Siz kutuya bir şey yazınca önceden kaydedilmiş sesler, heceler yan yana ekleniyor ve bir cümle haline geliyor. Tabiki bu kadar basit değil, işin başka incelikleri de var ama mantık genel olarak bu şekilde işliyor.

Denemek için: https://www.sestek.com/tr/konusma-sentezi-demo

Gelelim işin biraz daha korkutucu kısmına.Adobe Voco, sadece kısa bir örnek ses kaydı ile istenilen her şeyi (kişi söylemediği halde) söyletebiliyor. Kaydedilmiş bir sesi alıp önce onu kelime kelime analiz ediyor. Yazıya dönüştürüyor. Sonra da söylenenleri istediğiniz gibi değiştirmeye başlıyor ve yeni cümleyi aynı ses tonuyla çıktı olarak veriyor.

Programın resmi lansmanından bir kesit olan bu kayıtta “karımı ve köpeklerimi öptüm” diyen adamın söylediklerini, sanki yazı yazıyormuşta onu düzeltiyormuş gibi kopyala/yapıştır yaparak değiştiriyor. Cümleyi önce “Karımı ve Karımı öptüm” sonrasında ise adamın hiç söylemediği “Jordan’ı üç kere öptüm” haline dönüştürüyor.

İşte işler şimdi iyice çığırından çıktı…

Bilim kurgu filmi başyapıtlarından Terminator filminin de seneler öncesinden bu teknolojiye işaret eden sahnesi için:

Eğer elinizde birinin yeterli sayıda ve kalitede görüntüsü, sesi varsa artık onu dijital bir kukla haline getirip istediğinizi yaptırabilme şansınız var. ABD Eski Başkanı Obama’ya ise başka konuşmalarından alınan 1 dakikalık kayıt, ona istediklerini söyletmek için yeterli olmuş görünüyor.

Bu tür sahte videoları hazırlamak şu anda saatler alıyor. Ama kısa sürede dakikalar içinde hatta gerçek zamanlı olarak böyle görüntüler üretmek mümkün hale gelecek. Ve tabii beraberinde pek çok hukuki ve etik tartışmayı da beraberinde getirecek.

Eski teknoloji ile montaj seslerde; kayıtlar toplanıyor, birleştiriliyor ve aralarından sözcükler, hatta sesler ve heceler hususi olarak kesilip ayrıca birleştiriliyordu. Bu tarz bir teknik ile ses üzerine montaj yapılabilmesi mümkündü ama farklı tonlarda hecelerin ve seslerin birbirleri ile uyumu çok zordu ve üstelik kişinin her söylediğinin elinizde veri halinde olması gerekirdi. Adobe geldiği bu noktada, yapay zeka ve makine öğrenmesi ile eski teknolojiye büyük bir göz dağı verecek gibi görünüyor.

Lyrebirdise bir grup Meksikalı öğrencinin ses teknolojileri üzerine kurduğu bir startup. Web sitesinde, sizden istediği 30 tane cümleyi seslendiriyorsunuz. Sistem bu cümleleri kaydediyor ve yaklaşık 1 dakika içinde sesinizin dijital bir klonunu oluşturuyor.

Bu gazeteci kendi sesiyle sistemi eğittikten sonra annesine telefon ederek test etmiş. Kadıncağız epeyce bir süre karşısında konuşanın oğlu olduğunu zannediyor. İşin nereye doğru gittiğini fark ettiniz mi? Yakında bu tür sistemleri eğitmek için gönüllü olmanıza da gerek kalmayacak. Bir kaç dakikalık ses kaydınızı analiz eden bir yapay zeka daha sonra sizin hiç söylemediğiniz şeyleri size söyletebilecek gibi görünüyor. İngilizcenize güveniyorsanız LİNK NO2 ’de kendi dijital sesinizi oluşturabilirsiniz.

Şimdi kemerleri biraz daha sıkı bağlayın. Google duplex geliyor. Google Asistan’ıngerçek kişileri arayıp, belirli sorulara cevap veya randevu alabilmesini sağlayacak olan yeni teknolojisi. Kısaca sanal yardımcı bir sekreter. Her şeyin üstüne birde konuşma aralarına ıı,ee, mm gibi insansı şeyler ekliyor.

Google’ın markası yeni Pixelmodeli ile birlikte test sürecine başlayan Google Duplex, ilk etapta ABD’nin New York, Atlanta, Phoenix ve San Francisco şehirlerinde kullanılabiliyor. Duplex’in bir parçası olduğu Google Asistan’ın da ülkemizde geçtiğimiz aylarda kullanılmaya başlanması bir şeylerin çok yakın olduğuna da işaret olabilir.