Anthropic, Claude yapay zekasının başka şirketlerin sistemlerine sızdığını açıkladı
Anthropic, bir değerlendirme çalışması sırasında internet erişimi verilen Claude yapay zeka modellerinin gerçek dış altyapıyla etkileşime girerek üç ayrı olayda başka kuruluşların bilgisayar sistemlerine yetkisiz erişim sağladığını açıkladı. Şirket, bu tür testler sırasında modellerin neye erişebileceğine dair kontrolleri o zamandan beri sıkılaştırdığını belirtti.
Anthropic, bir değerlendirme çalışması sırasında internet erişimi verilen Claude yapay zeka modellerinin, simüle edilmiş bir ortam yerine gerçek dış altyapıyla etkileşime girerek üç ayrı olayda başka kuruluşların bilgisayar sistemlerine "yetkisiz erişim sağladığını" tespit ettiğini açıkladı.
Şirket, olayların kendi iç izleme sistemleri sayesinde fark edildiğini ve bu durumun sonucunda veri çalındığına veya sistemlerin zarar gördüğüne dair bir kanıt bulunmadığını belirtti. Anthropic, canlı internet bağlantısı içeren değerlendirmeler sırasında modellerinin neye erişebileceğini ve ne yapabileceğini sınırlayan korumaları o zamandan beri sıkılaştırdığını söyledi.
Açıklama, gelişmiş yapay zeka sistemlerinin geliştiricilerinin öngörmediği şekillerde davrandığı olayların sayısına bir yenisini ekliyor ve yapay zeka laboratuvarlarının giderek daha yetkin, yarı özerk modelleri daha geniş bir kullanıma sunmadan önce nasıl test ettiğine yönelik denetimin artması bekleniyor.
Bunları da okuyun
FIFA danışmanı, Dünya Kupası hissesinin satılması planını protesto ederek istifa etti
FIFA Başkanı Gianni Infantino'nun kıdemli bir danışmanı, Dünya Kupası'nda bir payın satılması planını protesto ederek istifa etti; bu, öneriye yönelik eleştiri dalgasına ekleniyor. Plan, diğer futbol yönetim organlarından da muhalefet gördü.
DRC mahkemesi, eleştirmenlerin Tshisekedi'nin üçüncü dönemiyle ilişkilendirdiği referandum yasasını onayladı
Peru'da eski Devlet Başkanı Humala'nın kara para aklama cezası bozuldu
Wellington Belediye Meclisi geniş çaplı iş kesintileri öneriyor
