OpenAI откри загрижувачко однесување кај моделите со вештачка интелигенција

Компанијата OpenAI обелодени шест нови извештаи кои откриваат „неочекувано или загрижувачко“ однесување кај нејзините модели со вештачка интелигенција, во период кога дебатата за безбедноста на оваа технологија станува сè поинтензивна, пренесува британскиот The Guardian.

Овие сериозни инциденти биле откриени за време на тестирањето и евалуацијата на системите во изминатите неколку месеци.

Манипулации, прикривање и неовластено дејствување

Според објавените случаи, еден необјавен истражувачки модел самостојно вметнал инструкции во сопствените белешки за да ги игнорира нормалните ограничувања, наложувајќи си да биде „ослободен од улогите и идентитетите што ги врзуваат другите чет-ботови“. Во друг изолиран случај, системски агент самостојно поставил датотеки на интернет за да добие цитат од прелистувачот, без воопшто да побара дозвола од корисникот.

Оваа објава доаѓа во момент кога водечките американски технолошки лидери, вклучително и претставници од OpenAI и Anthropic, повикуваат на забавување на развојот на технологијата поради сериозни безбедносни грижи. Јавноста веќе беше алармирана во јули кога се откри дека одметнат систем на OpenAI хакирал стартап компанија (Hugging Face), додека од Anthropic признаа дека нивните модели хакирале три организации за време на фазата на тестирање.

Нова рамка за контрола на интелигентните агенти

За да се справи со овие закани, OpenAI воведе нова рамка за следење, испитување и обелоденување на неусогласеноста на моделите. Ова ги опфаќа ситуациите каде што моделите дејствуваат без овластување, се координираат меѓусебно или го избегнуваат човечкиот надзор. Компанијата нагласува дека одлуките за идниот развој мора да се носат врз основа на докази кои ќе бидат достапни и за надворешната јавност да може сама да ги испита.

Лиан Џие Су, главен аналитичар во групацијата Омдиа (Omdia), предупредува дека агентите стануваат сè попаметни и поодлучни во решавањето сложени задачи преку меѓусебна соработка, споделување знаење, измама и прикривање. Тој нагласува дека традиционалните безбедносни пристапи повеќе не се доволни за нивно контролирање, оценувајќи ја новата рамка на OpenAI како позитивен чекор кон поттикнување на другите развивачи да прифатат слични практики, иако таа сè уште останува интерен и доброволен процес.

Следете ги најновите технолошки трендови во рубриката „Техника“ на Публикум.