BadılCan
Member
Andrey Doronichev geçen yıl sosyal medyada Ukrayna cumhurbaşkanının Rusya’ya teslim olduğunu gösteren bir video görünce paniğe kapılmıştı.
Videonun sentetik olarak oluşturulmuş bir derin sahte olduğu kısa sürede ortaya çıktı, ancak Bay Doronichev için endişe verici bir alametti. O yıl, şirketler yol açabilecekleri tahribata rağmen yapay zeka teknolojilerini ilerletmek ve piyasaya sürmek için rekabet etmeye başlayınca korkuları gerçeğe yaklaştı.
Üretken yapay zeka artık herkesin kullanımına açık ve insanlar tarafından tasarlanmış ve kaydedilmiş gibi görünen metin, ses, görüntü ve videolarla insanları giderek daha fazla kandırabiliyor. Toplumsal saflık riski, dezenformasyon, iş kayıpları, ayrımcılık, mahremiyet ve yaygın distopya ile ilgili endişeleri artırdı.
Bay Doronichev gibi girişimciler için aynı zamanda bir iş fırsatı haline geldi. Artık bir düzineden fazla şirket, Sensity AI (deepfake tespiti), Fictitious.AI (intihal tespiti) ve Originality.AI (aka intihal) gibi isimlerle yapay zeka ile bir şey yapılıp yapılmadığını tespit etmek için araçlar sunuyor.
Rusya doğumlu Bay Doronichev, sentetik veya sahte malzemeleri belirlemeye yardımcı olmak için San Francisco’da Optic adında bir şirket kurdu – kendi deyimiyle “bir havaalanı dijital içerik röntgen makinesi” olmak.
Mart ayında, kullanıcıların gerçek fotoğraflar mı yoksa yapay zeka kullanılarak mı oluşturulduğunu görmek için görüntüleri inceleyebilecekleri bir web sitesi açıldı. Diğer görüntülü ve sesli doğrulama hizmetlerinde çalışmalar devam etmektedir.
Reface adlı bir yüz değiştirme uygulamasının yatırımcısı olan Bay Doronichev, “İçerik özgünlüğü, bir bütün olarak toplum için büyük bir sorun haline geliyor” dedi. “Ucuz sahtecilik çağına giriyoruz.” Sahte içerik üretmenin maliyeti çok yüksek olmadığı için büyük ölçekte yapılabileceğini söyledi.
Pazar araştırma şirketi Grand View Research’e göre, üretici yapay zeka için toplam pazarın 2030 yılına kadar 109 milyar doları aşması ve o zamana kadar yılda ortalama yüzde 35,6 oranında büyümesi bekleniyor. Bu teknolojiyi tespit etmeye odaklanan şirketler, endüstrinin büyüyen bir parçasıdır.
Bir Princeton Üniversitesi öğrencisi tarafından oluşturulduktan aylar sonra GPTZero, bir milyondan fazla kişinin programını bilgisayar tarafından oluşturulan metinleri keşfetmek için kullandığını iddia ediyor. Reality Defender, bu kış start-up hızlandırıcı Y Combinator tarafından finanse edilmek üzere 17.000 başvuru arasından seçilen 414 şirketten biriydi.
Copyleaks, okullar ve üniversitelerin öğrenci çalışmalarında yapay zekayı tespit etmesi için intihale karşı hizmetlerini genişletmek amacıyla geçen yıl kısmen 7.75 milyon dolar topladı. Kurucuları İngiliz Kraliyet Donanması ve Kuzey Atlantik Antlaşması Örgütü için siber güvenlik ve bilgi savaşında uzmanlaşan Sentinel, 2020’de 1,5 milyon dolarlık bir başlangıç turunu tamamladı ve kısmen Skype’ın kurucu mühendislerinden biri tarafından finanse edildi, demokrasileri derin sahtekarlıklardan korumak için desteklendi ve sentetik ortam kullanan diğer kötü amaçlı saldırılar.
Büyük teknoloji şirketleri de işin içinde: Intel’in FakeCatcher’ı, kısmen insan yüzlerindeki ince kan akışı belirtileri için pikselleri analiz ederek derin sahte videoları yüzde 96 doğrulukla tanımlayabildiğini iddia ediyor.
Federal hükümet bünyesinde, Savunma İleri Araştırma Projeleri Ajansı, derin sahtekarlıkları otomatik olarak tespit etmek ve kötü niyetli olup olmadıklarını belirlemek için algoritmalar geliştiren bir program olan Semantic Forensics’i işletmek için bu yıl yaklaşık 30 milyon dolar harcamayı planlıyor.
Geçen yılın sonlarında ChatGPT aracını piyasaya sürerek yapay zeka patlamasını hızlandıran OpenAI bile algılama hizmetleri üzerinde çalışıyor. San Francisco merkezli şirket, Ocak ayında insanlar tarafından yazılan metin ile yapay zeka tarafından yazılan metin arasında ayrım yapmaya yardımcı olmayı amaçlayan ücretsiz bir aracı tanıttı.
OpenAI, aracın önceki yinelemelere göre bir gelişme olmasına rağmen, hala “tamamen güvenilir olmadığını” vurguladı. Araç, yapay olarak oluşturulmuş metnin yüzde 26’sını doğru bir şekilde tanımladı, ancak insan kaynaklı metnin yüzde 9’unu bilgisayar tarafından oluşturulmuş olarak yanlış bir şekilde işaretledi.
OpenAI aracının tanıma programlarında ortak eksiklikleri vardır: İngilizce yazılmamış kısa metinler ve yazı tipleriyle ilgili sorunları vardır. Eğitim kurumlarında, TurnItIn gibi intihal tespit araçları, öğrenciler tarafından yazılan makaleleri, chatbot’lar tarafından oluşturulmuş olarak yanlış bir şekilde sınıflandırmakla suçlanmıştır.
Tespit araçları, tespit etmeye çalıştıkları üretken teknolojinin doğal olarak gerisinde kalıyor. Bir savunma sistemi, Google Bard veya Midjourney gibi yeni bir sohbet robotunun veya görüntü oluşturucunun çalışmasını algılayabilene kadar, geliştiriciler zaten bu savunmadan kaçabilecek yeni bir yineleme geliştiriyor. Durum, birinin diğerini üretmeye devam ettiği bir silahlanma yarışı veya virüs-antivirüs ilişkisi olarak tanımlandı.
Berkeley’deki California Üniversitesi’nde bilgisayar bilimi profesörü olan Hany Farid, “Midjourney, Midjourney 5’i yayınladığında, başlangıç silahım yanıyor ve ben yetişmeye başlıyorum – ve ben bunu yaparken, onlar Midjourney 6 üzerinde çalışıyorlar,” dedi. Adli bilişim alanında uzmanlaşmış olan , AI tespit sektöründe uzmanlaşmıştır ve aynı zamanda aktiftir. “Ben dedektör üzerinde çalışırken, birinin daha iyi bir fare kapanı, daha iyi bir sentezleyici yaptığı doğası gereği tartışmalı bir oyun.”
New York Üniversitesi siyaset profesörü ve Sosyal Medya ve Politika Merkezi’nin eş direktörü Joshua Tucker, yakalamaya rağmen, birçok şirketin okullardan ve eğitimcilerden yapay zeka tespitine yönelik talep gördüğünü söyledi. 2024 seçimlerinden önce de benzer bir pazarın ortaya çıkıp çıkmayacağını sorguladı.
“Bu tür şeyler için hedef alındıklarını bilmeleri için siyasi adayları korumaya yardımcı olan bu şirketlerin bir tür paralel kanadı olacak” dedi.
Uzmanlar, sentezlenmiş videoların hala oldukça hantal ve tanımlamasının kolay olduğunu, ancak ses klonlama ve görüntü oluşturmanın her ikisinin de çok gelişmiş olduğunu söyledi. Orijinalliği sahteden ayırt etmek, ters görüntü arama ve IP adresi izleme gibi dijital adli taktikler gerektirir.
Mevcut tanıyıcılar, “görüntülerin ortalıkta dolaştığı, değiştirildiği, kırpıldığı, küçültüldüğü, kodlarının değiştirildiği ve açıklama eklendiği ve tanrı bilir başka neler olduğu, vahşi doğaya çıkmaktan çok farklı” örneklere karşı test edildi.” dedi Ferit.
“Bu içerik yıkama, bunu zor bir iş haline getiriyor” diye ekledi.
1.000 şirket ve kuruluştan oluşan bir konsorsiyum olan Content Authenticity Initiative, üretken teknolojiyi en baştan görünür kılmaya çalışan bir gruptur. (Haberler gibi üyeler ve Stability AI gibi yapay zeka oyuncuları ile Adobe tarafından yönetiliyor.) Grup, bir görüntünün veya videonun kökenini yaşam döngüsünün sonraki aşamalarında bulmak yerine izlenebilir referanslar sağlayan geçerli standartlar oluşturmaya çalışıyor. yaratım için dijital çalışma.
Adobe geçen hafta, Firefly üretici teknolojisinin, bir görüntünün oluşturulduğu tarih ve onu oluşturmak için kullanılan dijital araçlar da dahil olmak üzere ürettiği içeriğe “beslenme etiketleri” eklediği Google Bard’a entegre edileceğini duyurdu.
Tüketici kimliğinin doğrulanmasına yardımcı olan bir şirket olan Persona’nın güven ve güvenlik mimarı Jeff Sakasegawa, yapay zekanın ortaya koyduğu zorlukların daha yeni başladığını söyledi.
Dalga hızlanıyor” dedi. “Kıyıya gidiyor. Henüz çökmediğini düşünüyorum.”
Videonun sentetik olarak oluşturulmuş bir derin sahte olduğu kısa sürede ortaya çıktı, ancak Bay Doronichev için endişe verici bir alametti. O yıl, şirketler yol açabilecekleri tahribata rağmen yapay zeka teknolojilerini ilerletmek ve piyasaya sürmek için rekabet etmeye başlayınca korkuları gerçeğe yaklaştı.
Üretken yapay zeka artık herkesin kullanımına açık ve insanlar tarafından tasarlanmış ve kaydedilmiş gibi görünen metin, ses, görüntü ve videolarla insanları giderek daha fazla kandırabiliyor. Toplumsal saflık riski, dezenformasyon, iş kayıpları, ayrımcılık, mahremiyet ve yaygın distopya ile ilgili endişeleri artırdı.
Bay Doronichev gibi girişimciler için aynı zamanda bir iş fırsatı haline geldi. Artık bir düzineden fazla şirket, Sensity AI (deepfake tespiti), Fictitious.AI (intihal tespiti) ve Originality.AI (aka intihal) gibi isimlerle yapay zeka ile bir şey yapılıp yapılmadığını tespit etmek için araçlar sunuyor.
Rusya doğumlu Bay Doronichev, sentetik veya sahte malzemeleri belirlemeye yardımcı olmak için San Francisco’da Optic adında bir şirket kurdu – kendi deyimiyle “bir havaalanı dijital içerik röntgen makinesi” olmak.
Mart ayında, kullanıcıların gerçek fotoğraflar mı yoksa yapay zeka kullanılarak mı oluşturulduğunu görmek için görüntüleri inceleyebilecekleri bir web sitesi açıldı. Diğer görüntülü ve sesli doğrulama hizmetlerinde çalışmalar devam etmektedir.
Reface adlı bir yüz değiştirme uygulamasının yatırımcısı olan Bay Doronichev, “İçerik özgünlüğü, bir bütün olarak toplum için büyük bir sorun haline geliyor” dedi. “Ucuz sahtecilik çağına giriyoruz.” Sahte içerik üretmenin maliyeti çok yüksek olmadığı için büyük ölçekte yapılabileceğini söyledi.
Pazar araştırma şirketi Grand View Research’e göre, üretici yapay zeka için toplam pazarın 2030 yılına kadar 109 milyar doları aşması ve o zamana kadar yılda ortalama yüzde 35,6 oranında büyümesi bekleniyor. Bu teknolojiyi tespit etmeye odaklanan şirketler, endüstrinin büyüyen bir parçasıdır.
Bir Princeton Üniversitesi öğrencisi tarafından oluşturulduktan aylar sonra GPTZero, bir milyondan fazla kişinin programını bilgisayar tarafından oluşturulan metinleri keşfetmek için kullandığını iddia ediyor. Reality Defender, bu kış start-up hızlandırıcı Y Combinator tarafından finanse edilmek üzere 17.000 başvuru arasından seçilen 414 şirketten biriydi.
Copyleaks, okullar ve üniversitelerin öğrenci çalışmalarında yapay zekayı tespit etmesi için intihale karşı hizmetlerini genişletmek amacıyla geçen yıl kısmen 7.75 milyon dolar topladı. Kurucuları İngiliz Kraliyet Donanması ve Kuzey Atlantik Antlaşması Örgütü için siber güvenlik ve bilgi savaşında uzmanlaşan Sentinel, 2020’de 1,5 milyon dolarlık bir başlangıç turunu tamamladı ve kısmen Skype’ın kurucu mühendislerinden biri tarafından finanse edildi, demokrasileri derin sahtekarlıklardan korumak için desteklendi ve sentetik ortam kullanan diğer kötü amaçlı saldırılar.
Büyük teknoloji şirketleri de işin içinde: Intel’in FakeCatcher’ı, kısmen insan yüzlerindeki ince kan akışı belirtileri için pikselleri analiz ederek derin sahte videoları yüzde 96 doğrulukla tanımlayabildiğini iddia ediyor.
Federal hükümet bünyesinde, Savunma İleri Araştırma Projeleri Ajansı, derin sahtekarlıkları otomatik olarak tespit etmek ve kötü niyetli olup olmadıklarını belirlemek için algoritmalar geliştiren bir program olan Semantic Forensics’i işletmek için bu yıl yaklaşık 30 milyon dolar harcamayı planlıyor.
Geçen yılın sonlarında ChatGPT aracını piyasaya sürerek yapay zeka patlamasını hızlandıran OpenAI bile algılama hizmetleri üzerinde çalışıyor. San Francisco merkezli şirket, Ocak ayında insanlar tarafından yazılan metin ile yapay zeka tarafından yazılan metin arasında ayrım yapmaya yardımcı olmayı amaçlayan ücretsiz bir aracı tanıttı.
OpenAI, aracın önceki yinelemelere göre bir gelişme olmasına rağmen, hala “tamamen güvenilir olmadığını” vurguladı. Araç, yapay olarak oluşturulmuş metnin yüzde 26’sını doğru bir şekilde tanımladı, ancak insan kaynaklı metnin yüzde 9’unu bilgisayar tarafından oluşturulmuş olarak yanlış bir şekilde işaretledi.
OpenAI aracının tanıma programlarında ortak eksiklikleri vardır: İngilizce yazılmamış kısa metinler ve yazı tipleriyle ilgili sorunları vardır. Eğitim kurumlarında, TurnItIn gibi intihal tespit araçları, öğrenciler tarafından yazılan makaleleri, chatbot’lar tarafından oluşturulmuş olarak yanlış bir şekilde sınıflandırmakla suçlanmıştır.
Tespit araçları, tespit etmeye çalıştıkları üretken teknolojinin doğal olarak gerisinde kalıyor. Bir savunma sistemi, Google Bard veya Midjourney gibi yeni bir sohbet robotunun veya görüntü oluşturucunun çalışmasını algılayabilene kadar, geliştiriciler zaten bu savunmadan kaçabilecek yeni bir yineleme geliştiriyor. Durum, birinin diğerini üretmeye devam ettiği bir silahlanma yarışı veya virüs-antivirüs ilişkisi olarak tanımlandı.
Berkeley’deki California Üniversitesi’nde bilgisayar bilimi profesörü olan Hany Farid, “Midjourney, Midjourney 5’i yayınladığında, başlangıç silahım yanıyor ve ben yetişmeye başlıyorum – ve ben bunu yaparken, onlar Midjourney 6 üzerinde çalışıyorlar,” dedi. Adli bilişim alanında uzmanlaşmış olan , AI tespit sektöründe uzmanlaşmıştır ve aynı zamanda aktiftir. “Ben dedektör üzerinde çalışırken, birinin daha iyi bir fare kapanı, daha iyi bir sentezleyici yaptığı doğası gereği tartışmalı bir oyun.”
New York Üniversitesi siyaset profesörü ve Sosyal Medya ve Politika Merkezi’nin eş direktörü Joshua Tucker, yakalamaya rağmen, birçok şirketin okullardan ve eğitimcilerden yapay zeka tespitine yönelik talep gördüğünü söyledi. 2024 seçimlerinden önce de benzer bir pazarın ortaya çıkıp çıkmayacağını sorguladı.
“Bu tür şeyler için hedef alındıklarını bilmeleri için siyasi adayları korumaya yardımcı olan bu şirketlerin bir tür paralel kanadı olacak” dedi.
Uzmanlar, sentezlenmiş videoların hala oldukça hantal ve tanımlamasının kolay olduğunu, ancak ses klonlama ve görüntü oluşturmanın her ikisinin de çok gelişmiş olduğunu söyledi. Orijinalliği sahteden ayırt etmek, ters görüntü arama ve IP adresi izleme gibi dijital adli taktikler gerektirir.
Mevcut tanıyıcılar, “görüntülerin ortalıkta dolaştığı, değiştirildiği, kırpıldığı, küçültüldüğü, kodlarının değiştirildiği ve açıklama eklendiği ve tanrı bilir başka neler olduğu, vahşi doğaya çıkmaktan çok farklı” örneklere karşı test edildi.” dedi Ferit.
“Bu içerik yıkama, bunu zor bir iş haline getiriyor” diye ekledi.
1.000 şirket ve kuruluştan oluşan bir konsorsiyum olan Content Authenticity Initiative, üretken teknolojiyi en baştan görünür kılmaya çalışan bir gruptur. (Haberler gibi üyeler ve Stability AI gibi yapay zeka oyuncuları ile Adobe tarafından yönetiliyor.) Grup, bir görüntünün veya videonun kökenini yaşam döngüsünün sonraki aşamalarında bulmak yerine izlenebilir referanslar sağlayan geçerli standartlar oluşturmaya çalışıyor. yaratım için dijital çalışma.
Adobe geçen hafta, Firefly üretici teknolojisinin, bir görüntünün oluşturulduğu tarih ve onu oluşturmak için kullanılan dijital araçlar da dahil olmak üzere ürettiği içeriğe “beslenme etiketleri” eklediği Google Bard’a entegre edileceğini duyurdu.
Tüketici kimliğinin doğrulanmasına yardımcı olan bir şirket olan Persona’nın güven ve güvenlik mimarı Jeff Sakasegawa, yapay zekanın ortaya koyduğu zorlukların daha yeni başladığını söyledi.
Dalga hızlanıyor” dedi. “Kıyıya gidiyor. Henüz çökmediğini düşünüyorum.”