Киберексперт: Потребителите да внимават каква информация споделят с AI

Преименуването на изкуствения интелект (AI) на „суперинтелект“ от президента на САЩ Доналд Тръмп не означава, че технологията е достигнала ново ниво. Това заяви киберекспертът от института Gate Иван Драганов в студиото на България он ер.

„Суперинтелект и новото наименование не значи, че

технологията е постигнала нови прагове или има нови способности, а по-скоро е пиар трик на президента“.

Гостът отбеляза, че САЩ и Китай се съревновават за развитието и внедряването на изкуствения интелект.

Двете държави обаче използват различни подходи:

Китай развива отворени модели, докато американските компании залагат основно на затворени големи езикови модели.

Според Драганов различия има и при контрола върху технологията – при американските модели компаниите поставят ограниченията, докато при отворените модели голяма част от отговорността остава за потребителя.

Драганов коментира и случаите, при които AI агенти са

излизали извън предварително зададената им тестова среда. Според киберексперта това не означава, че изкуственият интелект сам е взел решение да атакува дадена система.

„На него му е поставена задача от човек, махнати са част от ограниченията от човек и съответно за това се стига и до тези резултати“, обясни той.

Според Драганов именно на този фон Тръмп е събрал

представители на големите технологични компании, за да обсъдят рамка за контрол върху изкуствения интелект.Тя предвижда компаниите да поставят ограничения на моделите, да следят дали те се спазват и да бъдат проверявани от външни одитори.

„Наподобява повече на това индустрията сама да се регулира. Има вътрешни процеси, има одитор и след това бордът има отговорност да действа“, посочи гостът.

Драганов подчерта, че потребителите също трябва да внимават каква информация споделят с изкуствения интелект.

„Всеки един човек, преди да използва технологията, трябва да има поне базово разбиране за това как работи и какви данни трябва да се споделят“, каза експертът.

Според него бъдещето на технологията е свързано все повече с AI агентите,

които не само отговарят на въпроси, а изпълняват реални задачи чрез различни програми и услуги.

„Агентите ще се превърнат в работници, а ние ще бъдем ръководител на този екип, ще трябва да проверяваме тяхната работа, да ги синхронизираме, съответно да знаем как да поставяме техните задачи“, заключи Иван Драганов.