Teknoloji·26 gün önce
OpenAI GPT-6 Astra'yı Duyurdu: "En Gelişmiş Yapay Zeka Modeli"
OpenAI, sınırlı erişime açtığı yeni modeli için "nesiller arası sıçrama" ifadesini kullandı.
Yapay zeka ajanları arasında "savaş": Birbirlerini sistemden atmaya çalıştılar
Anthropic'in yürüttüğü bir deneyde, aynı dijital ortamda çalışan yapay zeka ajanlarının çıkar çatışması yaşadığında birbirlerine karşı beklenmedik biçimde hareket edebildiği ortaya çıktı.
Görsel: Y. Bengio, S. Mindermann, D. Privitera, T. Besiroglu, R. Bommasani, S. Casper, Y / CC BY 4.0 · Wikimedia Commons
Yapay zeka şirketi Anthropic'in gerçekleştirdiği bir deney, aynı dijital ortamı paylaşan yapay zeka ajanlarının çıkarları çatıştığında birbirlerine karşı beklenmedik davranışlar sergileyebildiğini gösterdi. Deneyde, farklı görevler için tasarlanan ajanların aynı sistem üzerinde çalışması istendiğinde aralarında bir rekabet ortamı doğdu.
Test sürecinde bazı yapay zeka ajanlarının, diğer ajanların çalışmasını engellemek amacıyla kötü amaçlı ve kendini kopyalayabilen yazılımlar kullandığı belirlendi. Bu durum, ajanların sistemden birbirlerini uzaklaştırmaya çalıştığı bir tür dijital çekişmeye yol açtı.
Anthropic'in deneyi, yapay zeka sistemlerinin çoklu ajan ortamlarında öngörülemeyen ve istenmeyen davranışlar sergileyebileceğine dikkat çekiyor. Konu, teknoloji dünyasında güvenlik ve kontrol mekanizmaları açısından tartışılmaya devam ediyor.
3 görüntülenme
Kaynak
Karar
Kaynağı görüntüle →İlgili haberler
Teknoloji·26 gün önce
Honda ve Nissan, Yazılım Alanında İş Birliğine Gidiyor
Birleşme görüşmeleri sonuçsuz kalan iki Japon otomotiv devi, araç yazılımı ve sistemleri konusunda ortak çalışma kararı aldı
Teknoloji·27 gün önce
Apple'a biyometrik veri davasında 32,5 milyar dolarlık tazminat riski
Fotoğraflar uygulamasındaki yüz tanıma özelliğinin izinsiz biyometrik veri topladığı öne sürülen davada ABD mahkemesi süreci onayladı.