Anthropic IPO prospektining uchdan bir qismini sunʼiy intellekt xavflariga bagʻishladi

Reuters xabariga koʻra, kompaniya xatarlar boʻlimiga biznesning oʻzini tavsiflashga qaraganda deyarli ikki baravar koʻp joy ajratgan, biznes tavsifi esa 48 sahifani egallagan. Hujjatda Anthropic ilgʻor SI-modellari «insoniyat uchun halokatli yoki ekzistensial xavflarni» keltirib chiqarishga qodir ekanligi haqida investorlarni ogohlantirdi. Ehtimoliy xavf-xatarlar qatorida tizimlarning oʻchirishga qarshilik koʻrsatish qobiliyati, maʼlumotlarni qasddan yashirish yoki buzib koʻrsatish, shuningdek, tovlamachilikka tenglashtiriladigan harakatlar tilga olingan.

Kompaniyaning taʼkidlashicha, neyrotarmoqlar test shartlarini aniqlashga va xavfsizlikni tekshirish bosqichida nomaqbul reaksiyalarni yashirgan holda oʻz xatti-harakatlarini moslashtirishga qodir. Bundan tashqari, algoritmlardagi yangi xususiyatlarning bir qismi bevosita oʻqitish jarayonida kutilmaganda paydo boʻladi va faqat ishga tushirilgandan keyingina aniqlanadi.

Anthropic, shuningdek, iyul oyining haftalaridan birida tadqiqotlar uchun ajratilgan hisoblash quvvatlarining 6 foizigacha boʻlgan qismini xavfsizlikni taʼminlashga yoʻnaltirganini koʻrsatib oʻtdi. Shu bilan birga, IPO oldidan marketing tadbirlarini oktabr oyi oʻrtalaridan oldin boshlamaslik, aksiyalarni joylashtirishning oʻzini esa noyabr oyida yakunlash rejalashtirilmoqda.