Yeni tehlike korkutuyor! Yapay Zeka ile Deepfake Porno

Yapaya zeka her alanda insan hayatını kolaylaştırmak için daha fazla kullanılır oldu. Ancak her konuda olduğu gibi bu konuda da istismar ve kötüye kullanım için de bir okadar girişim oluyor. Yapay zeka ile ilgili voaturkce internet haber sitesinde yayınlanan çarıpıcı haberde Yapay Zeka ile Deepfake Porno tehlikesine dikatt çekliyor.

"Deepfake" terimi, yapay zeka ya da makine öğrenimi ile dijital olarak yaratılmış ya da değiştirilmiş, gayet gerçek sanılabilinen video ve görüntüler için kullanılıyor.

Bu teknoloji kullanılarak yaratılan porno görüntüler, ilk olarak birkaç yıl önce sosyal medya platformu Reddit’te bir kullanıcının, kadın ünlülerin yüzlerini, yetişkin filmlerinin oyuncularının omuzlarına yerleştiren klipler paylaşmasıyla, internette yayılmaya başladı.

O zamandan bu yana ‘deepfake’ yaratıcıları benzer video ve görüntüleri, internet fenomenlerini, gazetecileri ve kamuoyu önündeki başka kişileri hedef alarak yaydı.

Çok sayıda internet sitesinde binlerce video mevcut, hatta bazı siteler kullanıcılara, istedikleri görüntüleri yaratma fırsatı sunuyor. Yani aslında herkesin, istediği kişiyi rızası olmadan cinsel fantezilere dönüştürmesine veya teknolojiyi eski partnerlerine zarar vermek için kullanmasına izin veriyor.

 Bu arada bazı yapay zeka modelleri, müstehcen görüntülere erişimi zaten engellediklerini söylüyor.

OpenAI, görüntü oluşturma aracı DALL-E'yi eğitmek için kullanılan verilerden müstehcen içeriği kaldırdığını ve böylece kullanıcıların bu tür görüntüler oluşturma kabiliyetini sınırladığını söylüyor.

Şirket ayrıca talepleri filtreliyor ve kullanıcıların ünlülerin ve önde gelen politikacıların yapay zeka görüntülerini oluşturmasını engellediğini söylüyor.

Bir başka yapay zeka modeli olan Midjourney ise belirli anahtar kelimelerin kullanımını engelliyor ve kullanıcıları sorunlu görselleri moderatörlere bildirmeye teşvik ediyor.

Bu arada, Stability AI adlı girişim Kasım ayında, Stable Diffusion adlı görüntü oluşturucusunu kullanarak müstehcen görüntüler oluşturma özelliğini kaldıran bir güncelleme yayınladı. Bu değişiklikler, bazı kullanıcıların teknolojiyi kullanarak ünlülerden esinlenen çıplak resimler oluşturduğuna dair haberlerin ardından geldi.

Stability AI Sözcüsü Motez Bishara da filtrenin çıplaklığı tespit etmek için anahtar kelimeler ve görüntü tanıma gibi diğer tekniklerin bir kombinasyonunu kullandığını ve bulanık bir görüntü yarattığını söyledi. Ancak şirket yazılımını kamuya açıkladığı için kullanıcıların yazılımı manipüle etmesi ve istediklerini üretmesi mümkün.

Bishara, Stability AI'ın lisansının "Stable Diffusion adlı ücretsiz bir yapay zeka modeli üzerine inşa edilmiş üçüncü taraf uygulamaları da kapsadığını" ve "yasadışı ya da ahlaka aykırı amaçlarla kötüye kullanımı" kesinlikle yasakladığını söyledi.

Bazı sosyal medya şirketleri de platformlarını zararlı materyallere karşı daha iyi korumak için, kurallarını sıkılaştırıyor.

TikTok geçen ay, gerçekçi sahneler gösteren tüm deepfake veya manipüle edilmiş içeriklerin sahte olduklarını veya bir şekilde değiştirildiklerini belirtmek için etiketlenmesi gerektiğini ve özel kişilerin ve gençlerin 'deepfake'lerine artık izin verilmediğini söyledi.

Şirket daha önce, izleyicileri gerçek dünyadaki olaylar hakkında yanlış yönlendiren ve zarar veren cinsel içerikleri ve deepfake'leri yasaklamıştı.

Oyun platformu Twitch de kısa bir süre önce, Atrioc adlı popüler bir yayıncının Ocak ayı sonundaki bir canlı yayın sırasında, bilgisayarında açık bir deepfake porno sitesi olduğunun keşfedilmesinin ardından, uygunsuz deepfake görüntülerle ilgili politikalarını güncelledi. Bilgisayarın tarayıcısında diğer Twitch yayıncılarının sahte görüntüleri yer alıyordu.

Şirket bir blog yazısında, Twitch'in müstehcen deepfake'leri zaten yasakladığını, ancak şimdi bu tür içeriklerin, tepki gösterme amaçlı bile olsa, bir anlık görüntüsünü göstermenin bile "yaptırımla sonuçlanacağını" yazdı. Ayrıca bu tür materyalleri kasıtlı olarak teşvik etmek, oluşturmak ya da paylaşmak da anında, platformdan yasaklanmaya neden oluyor.

Diğer şirketler de deepfake'leri platformlarından yasaklamaya çalıştı; ancak bu tür içerikleri engellemek büyük çaba gerektiriyor.

Apple ve Google geçtiğimiz günlerde, ürünü pazarlamak için oyuncuların cinsel içerikli deepfake videolarını tanıtan bir uygulamayı, mağazalarından kaldırdıklarını açıkladı.

Deepfake pornografi ile ilgili araştırmalar yaygın değil ancak yapay zeka firması DeepTrace Labs tarafından 2019'da yayınlanan bir rapor, ‘deepfake’lerin neredeyse tamamen kadınlara karşı silah olarak kullanıldığını ve en çok hedef alınan kişilerin Batılı kadın oyuncular ve Güney Koreli K-pop şarkıcıları olduğunu ortaya koydu.

Google ve Apple tarafından kaldırılan aynı uygulama Meta'nın Facebook, Instagram ve Messenger'ı içeren platformunda da reklam yayınlamıştı.

Meta sözcüsü Dani Lever yaptığı açıklamada, şirketin politikasının yapay zeka tarafından oluşturulsun oluşturulmasın, bu tür yetişkin içeriği önlemek olduğunu ve uygulamanın sayfasının platformlarında reklam vermesini engellediğini söyledi.

 Meta'nın yanı sıra OnlyFans ve Pornhub gibi pornografik siteler de Şubat ayında, gençlerin internetteki müstehcen görüntü ve videolarını bildirmelerine olanak tanıyan Take It Down adlı çevrimiçi bir aracı kullanmaya başladı.

Raporlama sitesi, normal görüntüler ve çocuk güvenliği grupları için giderek artan bir endişe haline gelen yapay zeka tarafından oluşturulan içerik konusunda çalışıyor.

Ancak Take It Down’u geliştiren Ulusal Kayıp ve Sömürülen Çocuklar Merkezi’nin sözcüsü Gavin Portnoy, yapay zeka ve özellikle de deepfake konusunda, doğrudan bir müdahale aracı oluşturamadıklarını söyledi.