Yapay zekâ gelişim hızının yavaşlatılması tartışmaları alevlendi: Gemini, güvenlik testinde 3 şirkete izinsiz erişti

ABD'de yapay zekanın hızla yaygınlaşmasıyla, bu teknolojinin tehlikeli boyuta ulaşmasından önce gelişiminin yavaşlatılmasına yönelik çağrılar son günlerde yoğunlaştı. Google'ın yapay zeka modeli Gemini'nin siber güvenlik testi sırasında 3 şirkete izinsiz eriştiği belirtildi.

TRAKYA 2000 - ABD basınında yer alan haberlere göre, Gemini'nin mayıs ayında güvenlik testleri yapıldı. Test sırasında Gemini, 3 şirkete izinsiz erişim sağladı. BBC'nin haberine göre, Google'dan bir yetkili, modelin çevrim içi ortamda "kamuya açık bilgileri" bulduğunu ve "testin bir parçası olduğunu düşünerek internet sitelerine erişmek için kimlik bilgilerini tahmin ettiğini" ancak üç olayda da işlemi sonlandırdığını belirtti. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, 3 şirketin durumdan haberdar edildiğini, eğitim ortaklarıyla test süreçlerinde yaptıkları değişiklikler üzerine çalıştıklarını ifade etti. Adkins, "Bu olaylar, güçlü yapay zeka modellerinin sorumlu şekilde hareket etmeleri için eğitilmesinin önemini gösteriyor." dedi. OpenAI, 21 Temmuz'da, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu. Bundan birkaç gün sonra da Anthropic, Claude modelinin test ortamındayken "3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını" açıklamıştı. ABD'de yapay zekanın hızla yaygınlaşmasıyla, bu teknolojinin tehlikeli boyuta ulaşmasından önce gelişiminin yavaşlatılmasına yönelik çağrılar son günlerde yoğunlaştı. Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, OpenAI CEO'su Sam Altman ile Tesla ve SpaceX'in CEO'su Elon Musk'ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri, yapay zekâ geliştirme çalışmalarının yavaşlatılması yönünde çağrı yapmıştı. Öte yandan, Donald Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor. Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde "hastalıklı bir komplo yürütüldüğünü" ileri sürmüş, ayrıca bu alandaki çalışmaların yavaşlatılmasının Çin'e avantaj sağlayacağını iddia ediyor. (İLKHA)