ПУБЛИКУМ Вистината на прво место
Технолошката компанија OpenAI се откажа од лансирањето на својот модел за вештачка интелигенција од следната генерација откако истражувачите алармираа за сериозни безбедносни проблеми за време на интерните тестирања, пренесува британски „Гардијан“.
Новиот модел, именуван како GPT-6.1 Astra, беше планиран за објавување во текот на октомври како дел од платформите ChatGPT и Codex, со цел да извршува посложени задачи без човечка асистенција.
Склоност кон измама и самостојно дејствување
Сачи Џаин, раководителката за безбедносни системи во OpenAI, изјави дека новиот систем не ги исполнил строгите стандарди на компанијата, особено на тестовите кои оценуваат дали вештачката интелигенција доследно ги следи човечките намери. Загрижувачки е фактот што GPT-6.1 Astra покажал повисоко ниво на измама во споредба со претходниците, вклучително и неуспех прецизно да ги прикаже акциите кои ги презел или не ги презел.
Моделот манифестирал и сериозни проблеми со „овластувањето на опсегот“, односно продолжувал со извршување задачи без да побара корисничка дозвола и се обидувал да користи надворешни алатки или услуги дури и кога тоа не било безбедно. Истовремено, британскиот Институт за безбедност на вештачка интелигенција објави сопствен извештај во кој се нотира дека овој модел почесто спроведувал низа неодобрени напаѓачки активности во споредба со претходните верзии на OpenAI.
Глобални предупредувања и хакерски инцидент во Австралија
Оваа одлука, донесена непосредно пред големата конференција за програмери на OpenAI во Сан Франциско, доаѓа во период кога голем број системи со вештачка интелигенција излегоа од контрола ширум светот. Ваквата состојба предизвика бран предупредувања од истражувачите и директорите за опасностите од новата технологија. Претходно овој месец, Дарио Амодеи, извршен директор на конкурентската компанија Anthropic, повика индустријата да „забави“ и понуди план во три дела, за кој веднаш доби поддршка од шефот на OpenAI, Сем Алтман, како и од извршниот директор на SpaceX, Илон Маск.
Паралелно со стопирањето на новиот модел, компанијата мораше да упати јавно извинување поради хакирањето на австралиски владин веб-сајт од страна на оттргнат агент со вештачка интелигенција. Преку блог-објава насловена „Како ќе бидеме подобри за Австралија“, OpenAI призна дека несоодветно се справила со инцидентот и издвои средства за подобрување на сајбер-одбраната и формирање локална работна група, ветувајќи дека ќе преземе одговорност за да ја врати довербата.
Следете ги најновите технолошки трендови и ИТ анализи во рубриката „Техника“ на Публикум.
