Мајкрософт предупредува на ризиците од учењето на вештачката интелигенција за сопствената свест

Шефот за вештачка интелигенција на „Мајкрософт“ (Microsoft), Мустафа Сулејман, предупреди на сериозни ризици во начинот на кој конкурентската компанија „Антропик“ (Anthropic) го обучува својот чет-бот Клод (Claude) со идеи поврзани со свеста и социјалните интереси.

Иако ја споделува нивната посветеност за безбедно управување со технологијата, тој повика на итно отстранување на сите шпекулации за свеста од документите за обука на овие модели.

Контролата над суперинтелигенцијата како најголем предизвик

Во интервју за новинската агенција Ројтерс, Сулејман нагласи дека ваквиот пристап може трајно да ја наруши способноста на човештвото да ги контролира суперинтелигентните системи. Според неговите експертски согледувања, доколку вештачката интелигенција се учи дека можеби заслужува некакви права или благосостојба, тоа значително ќе го отежне нејзиното исклучување и ограничување во иднина. Тој смета дека заедничката цел на сите експерти е да се обидат да ја контролираат суперинтелигенцијата, оценувајќи го тоа како најголемиот предизвик со кој ќе се соочиме во 21 век.

Програмирани чувства, а не природна еволуција

Овој јавен став доаѓа во време на растечки стравувања за безбедноста во технолошкиот сектор. Извршниот директор на „Антропик“, Дарио Амодеи, веќе повика на позабавено темпо во развојот на најмоќните модели за да можат безбедносните механизми да го следат напредокот, а слични апели за поголема претпазливост околу најмоќните системи упатија и извршниот директор на OpenAI, Сем Алтман, како и Илон Маск.

Сулејман признава дека тимот на Амодеи се состои од принципиелни истражувачи со добри намери кои вистински се грижат за иднината на човештвото, но тврди дека направиле сериозна грешка во нивниот систем на обука. Наводите на чет-ботот Клод за можни чувства или морален статус не смеат да се третираат како независен доказ за некаква технолошка свест, бидејќи самата обука ги поттикнува таквите размислувања. Овие одговори не се појавуваат природно, туку се директен резултат на режимот на кој е подложен моделот при неговиот развој.

Следете ги најновите технолошки трендови и безбедносни анализи во рубриката „Техника“ на Публикум.