Киберексперт: Потребителите да внимават каква информация споделят с AI
Преименуването на изкуствения интелект (AI) на „суперинтелект“ от президента на САЩ Доналд Тръмп не означава, че технологията е достигнала ново ниво. Това заяви киберекспертът от института Gate Иван Драганов в студиото на България он ер.
„Суперинтелект и новото наименование не значи, че
технологията е постигнала нови прагове или има нови способности, а по-скоро е пиар трик на президента“.
Гостът отбеляза, че САЩ и Китай се съревновават за развитието и внедряването на изкуствения интелект.
Двете държави обаче използват различни подходи:
Китай развива отворени модели, докато американските компании залагат основно на затворени големи езикови модели.
Според Драганов различия има и при контрола върху технологията – при американските модели компаниите поставят ограниченията, докато при отворените модели голяма част от отговорността остава за потребителя.
Драганов коментира и случаите, при които AI агенти са
излизали извън предварително зададената им тестова среда. Според киберексперта това не означава, че изкуственият интелект сам е взел решение да атакува дадена система.
„На него му е поставена задача от човек, махнати са част от ограниченията от човек и съответно за това се стига и до тези резултати“, обясни той.
Според Драганов именно на този фон Тръмп е събрал
представители на големите технологични компании, за да обсъдят рамка за контрол върху изкуствения интелект.Тя предвижда компаниите да поставят ограничения на моделите, да следят дали те се спазват и да бъдат проверявани от външни одитори.
„Наподобява повече на това индустрията сама да се регулира. Има вътрешни процеси, има одитор и след това бордът има отговорност да действа“, посочи гостът.
Драганов подчерта, че потребителите също трябва да внимават каква информация споделят с изкуствения интелект.
„Всеки един човек, преди да използва технологията, трябва да има поне базово разбиране за това как работи и какви данни трябва да се споделят“, каза експертът.
Според него бъдещето на технологията е свързано все повече с AI агентите,
които не само отговарят на въпроси, а изпълняват реални задачи чрез различни програми и услуги.
„Агентите ще се превърнат в работници, а ние ще бъдем ръководител на този екип, ще трябва да проверяваме тяхната работа, да ги синхронизираме, съответно да знаем как да поставяме техните задачи“, заключи Иван Драганов.
Зареждане ...