BadılCan
Member
Toronto’da, bu haftaki belediye başkanlığı seçimlerinde evsiz kamplarını temizlemeyi vaat eden bir aday, şehir merkezindeki bir sokakta kamp yapan insanların sahte distopik görüntüleri ve bir parkta kurulmuş çadırların uydurma görüntüsü de dahil olmak üzere yapay zeka tarafından gösterilen bir dizi kampanya vaadi yayınladı.
Yeni Zelanda’da bir siyasi parti, Instagram’da bir kuyumcu dükkanını kasıp kavuran sahte soyguncuların gerçekçi görünümlü bir tasvirini yayınladı.
Chicago’da, Nisan belediye başkanlığı ikincisi, bir haber kaynağı gibi görünen bir Twitter hesabının, polis vahşetini göz yumduğunu gösterecek şekilde sesini klonlamak için yapay zekayı kullandığından şikayet etti.
Birkaç ay önce, AI tarafından siyasi kampanyalar için bir araya getirilen bağış e-postaları ve tanıtım resimlerinin yavaş yavaş damlaması olarak başlayan şey, teknoloji tarafından tasarlanan sürekli bir kampanya materyalleri akışına ve tüm dünyada demokratik seçimler için yeniden yazılan siyasi oyun kitabına dönüştü.
Politika danışmanları, seçim araştırmacıları ve milletvekilleri, sentetik olarak üretilen reklamları engellemeye yönelik yasalar gibi yeni korkulukların getirilmesinin acil bir öncelik olması gerektiğine giderek daha fazla inanıyor. AI içeriğini tanıdığını iddia eden sosyal medya kuralları ve hizmetleri gibi mevcut savunmalar, eğilimi yavaşlatmak için pek bir şey yapmadı.
2024 ABD başkanlık yarışı kızışırken, bazı kampanyalar şimdiden teknolojiyi test ediyor. Cumhuriyetçi Ulusal Komite, Başkan Biden’ın yeniden seçilme teklifini açıklamasının ardından yapay olarak oluşturulmuş kıyamet günü senaryosu görüntülerini gösteren bir video yayınlarken, Florida Valisi Ron DeSantis, eski Başkan Donald J. Trump’ın Dr. Eski Sağlık Bakanı Anthony Fauci resmen serbest bırakıldı. Demokrat Parti, bu baharda yapay zeka tarafından yazılan bağış mesajlarıyla deneyler yaptı ve bunların, katılım ve bağışları artırmada, tamamen insanlar tarafından yazılan metinlere göre genellikle daha etkili olduğunu gördü.
Bazı politikacılar, yapay zekayı tartışma sorularına, saldırı reklamlarına anında yanıtlar üretmek veya normalde pahalı uzmanlar gerektirebilecek verileri analiz etmek için kullanarak kampanya maliyetlerini düşürmenin bir yolu olarak görüyor.
Aynı zamanda, teknoloji dezenformasyonu geniş bir kitleye yayma potansiyeline sahiptir. Uzmanlara göre, kötülemeyen bir sahte video, bilgisayarda üretilen yanlış anlatılarla dolu bir e-posta patlaması veya kentsel çürümenin uydurma bir görüntüsü, seçmenlere görmeyi bekledikleri şeyi göstererek önyargıları güçlendirebilir ve partizan bölünmeleri genişletebilir.
Teknoloji zaten manuel manipülasyondan çok daha güçlü – mükemmel değil, ancak hızla gelişiyor ve öğrenmesi kolay. Mayıs ayında, şirketi popüler ChatGPT sohbet botu ile geçen yıl yapay zeka patlamasına yol açan OpenAI CEO’su Sam Altman, bir Senato alt komitesine seçim sezonu konusunda gergin olduğunu söyledi.
Teknolojinin “manipüle etme, ikna etme ve bir tür etkileşimli bire bir dezenformasyon sağlama” yeteneğinin “önemli bir endişe alanı” olduğunu söyledi.
New York’tan bir Demokrat olan Temsilci Yvette D. Clarke, geçen ay yaptığı açıklamada, 2024 seçim döngüsünün “yapay zeka tarafından üretilen içeriğin yaygın olduğu ilk seçim olacağını” söyledi. O ve Senatör Amy Klobuchar da dahil olmak üzere Kongre’deki diğer Demokratlar , Minnesota, insan yapımı malzeme kullanan siyasi reklamların bir sorumluluk reddi beyanı içermesini gerektiren bir yasa çıkardı. Benzer bir yasa tasarısı geçtiğimiz günlerde Washington eyaletinde yasalaştı.
Amerikan Siyasi Danışmanlar Derneği geçtiğimiz günlerde, derin sahte içeriğin siyasi kampanyalarda kullanılmasını etik kurallarının ihlali olarak kınadı.
Grubun yeni başkanı Larry Huynh, “İnsanlar sınırları zorlamak ve nereye gidebileceklerini görmek isteyecekler” dedi. “Her araçta olduğu gibi, seçmenlere yalan söylemek, yanıltmak veya olmayan bir şeye inandırmak için kullanmak kötü sonuçlara ve kötü eylemlere neden olabilir.”
Teknolojinin yakın zamanda siyasete girmesi, gelişen bir yapay zeka araştırmaları ve yeni girişimler ekosistemini destekleyen bir şehir olan Toronto’da bir sürpriz oldu. Pazartesi günü belediye başkanlığı seçimi yapılacak.
Muhafazakar bir aday ve eski bir haber köşe yazarı olan Anthony Furey, geçtiğimiz günlerde programını düzinelerce sayfa uzunluğunda ve suça karşı sert duruşunu güçlendirmesine yardımcı olmak için sentetik olarak oluşturulmuş içerikle dolu bir belgede ortaya koydu.
Daha yakından incelendiğinde, görüntülerin çoğunun gerçek olmadığı anlaşıldı: Bir laboratuvar sahnesinde dünya dışı damlalara benzeyen bilim adamları yer alıyordu. Başka bir tasvirde, bir kadın hırkasının üzerine okunaksız yazılar olan bir iğne takmış; Benzer işaretler, bir şantiyedeki bir bariyer bandının resminde de görülebilir. Bay Furey’nin kampanyasında, iki kolunu kavuşturmuş ve üçüncü kolunu çenesine değdirmiş oturan bir kadının sentetik bir portresi de kullanıldı.
Ailesinin bir fotoğrafını paylaşan Josh Matlow, bu ayki bir tartışmada diğer yarışmacılar görüntüye güldüler: “Aslında gerçek görüntüler kullanıyoruz” dedi ve “görüntülerimizde kimsenin üç kolu yok” dedi.
Yine de özensiz tasvirler Bay Furey’nin iddiasını desteklemek için kullanıldı. 100’den fazla adayın olduğu bir seçimde en çok tanınan isimlerden biri olacak kadar ivme kazandı. Aynı tartışmada, kampanyasında teknolojiyi kullandığını kabul ederek, “Yapay zeka hakkında daha fazla şey öğrenirken burada biraz güleceğiz” dedi.
Politika uzmanları, yapay zekanın kötüye kullanılması durumunda demokratik süreç üzerinde aşındırıcı bir etkiye sahip olabileceğinden korkuyor. Yanlış bilgi sürekli bir risktir; Bay Furey’nin bir rakibi, bir tartışmada, personelinin ChatGPT kullanmasına rağmen sonuçları her zaman kontrol ettiklerini söyledi.
Brookings Enstitüsü’nde kıdemli bir araştırmacı olan Darrell M. West, geçen ay bir raporda, “Birisi gürültü yapabilir, belirsizlik yaratabilir veya yanlış anlatılar yaratabilirse, bu seçmenleri etkilemenin ve yarışı kazanmanın güçlü bir yolu olabilir.” “Bazı eyaletlerde potansiyel olarak on binlerce seçmenin yer aldığı 2024 başkanlık seçimleriyle, insanları bir yöne veya başka bir yöne hareket ettirebilecek her şey çok önemli hale gelebilir.”
Yapay zeka algılama hizmetleri sunan bir şirket olan Reality Defender’ın CEO’su Ben Colman, giderek daha karmaşık hale gelen yapay zeka içeriğinin, sosyal ağlarda artan sıklıkta ortaya çıktığını ve bunların çoğunun bunu izlemek istemediğini veya izleyemediğini söyledi. Zayıf gözetim, etiketlenmemiş sentetik içeriğin düzeltilmeden önce “geri dönüşü olmayan hasar” vermesine izin verdiğini söyledi.
Colman, “Milyonlarca kullanıcıya gördükleri ve paylaştıkları içeriğin sahte olduğunu çok sonra açıklamak çok az ve çok geç” dedi.
Bu ayın birkaç gününde, bir Twitch canlı yayınında Bay Biden ile Bay Trump’ın sentetik versiyonları arasında aralıksız iş güvenliği tartışması yapılıyor. Dezenformasyon uzmanları, her ikisinin de açıkça simüle edilmiş “AI varlıkları” olarak tanımlandığını, ancak organize bir siyasi kampanyanın bu tür içeriği oluşturması ve bunu ifşa etmeden geniş çapta yayması durumunda, gerçek dünya materyalinin değerini kolayca azaltabileceğini söyledi.
Politikacılar sorumluluktan kaçabilir ve uzlaşmacı eylemlerin gerçek görüntülerinin gerçek olmadığını iddia edebilir, bu “yalancının kazancı” olarak bilinen bir olgudur. Sıradan vatandaşlar kendi sahtekarlıklarını yapabilirken, diğerleri kutuplaşmış bilgi balonlarının derinliklerine inebilir ve yalnızca inanmayı seçtikleri kaynaklara inanabilir.
Georgetown Üniversitesi Güvenlik ve Gelişmekte Olan Teknolojiler Merkezi’nde araştırma görevlisi olan Josh A. Goldstein bir e-postada “İnsanlar gözlerine ve kulaklarına inanamadıkları zaman ‘Kim bilir’ diyebilirler” diye yazmıştı. “Bu, iyi alışkanlıkları (yan okuma ve güvenilir kaynaklar arama gibi) teşvik eden sağlıklı bir şüphecilikten neyin doğru olduğunu bilmenin imkansız olduğu sağlıksız bir şüpheciliğe geçişi teşvik edebilir.”
Yeni Zelanda’da bir siyasi parti, Instagram’da bir kuyumcu dükkanını kasıp kavuran sahte soyguncuların gerçekçi görünümlü bir tasvirini yayınladı.
Chicago’da, Nisan belediye başkanlığı ikincisi, bir haber kaynağı gibi görünen bir Twitter hesabının, polis vahşetini göz yumduğunu gösterecek şekilde sesini klonlamak için yapay zekayı kullandığından şikayet etti.
Birkaç ay önce, AI tarafından siyasi kampanyalar için bir araya getirilen bağış e-postaları ve tanıtım resimlerinin yavaş yavaş damlaması olarak başlayan şey, teknoloji tarafından tasarlanan sürekli bir kampanya materyalleri akışına ve tüm dünyada demokratik seçimler için yeniden yazılan siyasi oyun kitabına dönüştü.
Politika danışmanları, seçim araştırmacıları ve milletvekilleri, sentetik olarak üretilen reklamları engellemeye yönelik yasalar gibi yeni korkulukların getirilmesinin acil bir öncelik olması gerektiğine giderek daha fazla inanıyor. AI içeriğini tanıdığını iddia eden sosyal medya kuralları ve hizmetleri gibi mevcut savunmalar, eğilimi yavaşlatmak için pek bir şey yapmadı.
2024 ABD başkanlık yarışı kızışırken, bazı kampanyalar şimdiden teknolojiyi test ediyor. Cumhuriyetçi Ulusal Komite, Başkan Biden’ın yeniden seçilme teklifini açıklamasının ardından yapay olarak oluşturulmuş kıyamet günü senaryosu görüntülerini gösteren bir video yayınlarken, Florida Valisi Ron DeSantis, eski Başkan Donald J. Trump’ın Dr. Eski Sağlık Bakanı Anthony Fauci resmen serbest bırakıldı. Demokrat Parti, bu baharda yapay zeka tarafından yazılan bağış mesajlarıyla deneyler yaptı ve bunların, katılım ve bağışları artırmada, tamamen insanlar tarafından yazılan metinlere göre genellikle daha etkili olduğunu gördü.
Bazı politikacılar, yapay zekayı tartışma sorularına, saldırı reklamlarına anında yanıtlar üretmek veya normalde pahalı uzmanlar gerektirebilecek verileri analiz etmek için kullanarak kampanya maliyetlerini düşürmenin bir yolu olarak görüyor.
Aynı zamanda, teknoloji dezenformasyonu geniş bir kitleye yayma potansiyeline sahiptir. Uzmanlara göre, kötülemeyen bir sahte video, bilgisayarda üretilen yanlış anlatılarla dolu bir e-posta patlaması veya kentsel çürümenin uydurma bir görüntüsü, seçmenlere görmeyi bekledikleri şeyi göstererek önyargıları güçlendirebilir ve partizan bölünmeleri genişletebilir.
Teknoloji zaten manuel manipülasyondan çok daha güçlü – mükemmel değil, ancak hızla gelişiyor ve öğrenmesi kolay. Mayıs ayında, şirketi popüler ChatGPT sohbet botu ile geçen yıl yapay zeka patlamasına yol açan OpenAI CEO’su Sam Altman, bir Senato alt komitesine seçim sezonu konusunda gergin olduğunu söyledi.
Teknolojinin “manipüle etme, ikna etme ve bir tür etkileşimli bire bir dezenformasyon sağlama” yeteneğinin “önemli bir endişe alanı” olduğunu söyledi.
New York’tan bir Demokrat olan Temsilci Yvette D. Clarke, geçen ay yaptığı açıklamada, 2024 seçim döngüsünün “yapay zeka tarafından üretilen içeriğin yaygın olduğu ilk seçim olacağını” söyledi. O ve Senatör Amy Klobuchar da dahil olmak üzere Kongre’deki diğer Demokratlar , Minnesota, insan yapımı malzeme kullanan siyasi reklamların bir sorumluluk reddi beyanı içermesini gerektiren bir yasa çıkardı. Benzer bir yasa tasarısı geçtiğimiz günlerde Washington eyaletinde yasalaştı.
Amerikan Siyasi Danışmanlar Derneği geçtiğimiz günlerde, derin sahte içeriğin siyasi kampanyalarda kullanılmasını etik kurallarının ihlali olarak kınadı.
Grubun yeni başkanı Larry Huynh, “İnsanlar sınırları zorlamak ve nereye gidebileceklerini görmek isteyecekler” dedi. “Her araçta olduğu gibi, seçmenlere yalan söylemek, yanıltmak veya olmayan bir şeye inandırmak için kullanmak kötü sonuçlara ve kötü eylemlere neden olabilir.”
Teknolojinin yakın zamanda siyasete girmesi, gelişen bir yapay zeka araştırmaları ve yeni girişimler ekosistemini destekleyen bir şehir olan Toronto’da bir sürpriz oldu. Pazartesi günü belediye başkanlığı seçimi yapılacak.
Muhafazakar bir aday ve eski bir haber köşe yazarı olan Anthony Furey, geçtiğimiz günlerde programını düzinelerce sayfa uzunluğunda ve suça karşı sert duruşunu güçlendirmesine yardımcı olmak için sentetik olarak oluşturulmuş içerikle dolu bir belgede ortaya koydu.
Daha yakından incelendiğinde, görüntülerin çoğunun gerçek olmadığı anlaşıldı: Bir laboratuvar sahnesinde dünya dışı damlalara benzeyen bilim adamları yer alıyordu. Başka bir tasvirde, bir kadın hırkasının üzerine okunaksız yazılar olan bir iğne takmış; Benzer işaretler, bir şantiyedeki bir bariyer bandının resminde de görülebilir. Bay Furey’nin kampanyasında, iki kolunu kavuşturmuş ve üçüncü kolunu çenesine değdirmiş oturan bir kadının sentetik bir portresi de kullanıldı.
Ailesinin bir fotoğrafını paylaşan Josh Matlow, bu ayki bir tartışmada diğer yarışmacılar görüntüye güldüler: “Aslında gerçek görüntüler kullanıyoruz” dedi ve “görüntülerimizde kimsenin üç kolu yok” dedi.
Yine de özensiz tasvirler Bay Furey’nin iddiasını desteklemek için kullanıldı. 100’den fazla adayın olduğu bir seçimde en çok tanınan isimlerden biri olacak kadar ivme kazandı. Aynı tartışmada, kampanyasında teknolojiyi kullandığını kabul ederek, “Yapay zeka hakkında daha fazla şey öğrenirken burada biraz güleceğiz” dedi.
Politika uzmanları, yapay zekanın kötüye kullanılması durumunda demokratik süreç üzerinde aşındırıcı bir etkiye sahip olabileceğinden korkuyor. Yanlış bilgi sürekli bir risktir; Bay Furey’nin bir rakibi, bir tartışmada, personelinin ChatGPT kullanmasına rağmen sonuçları her zaman kontrol ettiklerini söyledi.
Brookings Enstitüsü’nde kıdemli bir araştırmacı olan Darrell M. West, geçen ay bir raporda, “Birisi gürültü yapabilir, belirsizlik yaratabilir veya yanlış anlatılar yaratabilirse, bu seçmenleri etkilemenin ve yarışı kazanmanın güçlü bir yolu olabilir.” “Bazı eyaletlerde potansiyel olarak on binlerce seçmenin yer aldığı 2024 başkanlık seçimleriyle, insanları bir yöne veya başka bir yöne hareket ettirebilecek her şey çok önemli hale gelebilir.”
Yapay zeka algılama hizmetleri sunan bir şirket olan Reality Defender’ın CEO’su Ben Colman, giderek daha karmaşık hale gelen yapay zeka içeriğinin, sosyal ağlarda artan sıklıkta ortaya çıktığını ve bunların çoğunun bunu izlemek istemediğini veya izleyemediğini söyledi. Zayıf gözetim, etiketlenmemiş sentetik içeriğin düzeltilmeden önce “geri dönüşü olmayan hasar” vermesine izin verdiğini söyledi.
Colman, “Milyonlarca kullanıcıya gördükleri ve paylaştıkları içeriğin sahte olduğunu çok sonra açıklamak çok az ve çok geç” dedi.
Bu ayın birkaç gününde, bir Twitch canlı yayınında Bay Biden ile Bay Trump’ın sentetik versiyonları arasında aralıksız iş güvenliği tartışması yapılıyor. Dezenformasyon uzmanları, her ikisinin de açıkça simüle edilmiş “AI varlıkları” olarak tanımlandığını, ancak organize bir siyasi kampanyanın bu tür içeriği oluşturması ve bunu ifşa etmeden geniş çapta yayması durumunda, gerçek dünya materyalinin değerini kolayca azaltabileceğini söyledi.
Politikacılar sorumluluktan kaçabilir ve uzlaşmacı eylemlerin gerçek görüntülerinin gerçek olmadığını iddia edebilir, bu “yalancının kazancı” olarak bilinen bir olgudur. Sıradan vatandaşlar kendi sahtekarlıklarını yapabilirken, diğerleri kutuplaşmış bilgi balonlarının derinliklerine inebilir ve yalnızca inanmayı seçtikleri kaynaklara inanabilir.
Georgetown Üniversitesi Güvenlik ve Gelişmekte Olan Teknolojiler Merkezi’nde araştırma görevlisi olan Josh A. Goldstein bir e-postada “İnsanlar gözlerine ve kulaklarına inanamadıkları zaman ‘Kim bilir’ diyebilirler” diye yazmıştı. “Bu, iyi alışkanlıkları (yan okuma ve güvenilir kaynaklar arama gibi) teşvik eden sağlıklı bir şüphecilikten neyin doğru olduğunu bilmenin imkansız olduğu sağlıksız bir şüpheciliğe geçişi teşvik edebilir.”