Според Кристиян Михайлов е много важно да не се предоверяваме на ИИ, а да го използваме с критично мислене
Вчера американският президент Доналд Тръмп се срещна с директорите на технологичните гиганти в сферата на изкуствения интелект (ИИ). Срещата беше на тема: Трябва ли да има външна намеса в регулацията на развитието на изкуствения интелект? Според Тръмп такава не е нужна, а като мотив той посочи, че пазарът сам трябва да регулира развитието на технологията.
Кристиян Михайлов от Професионалната асоциация по роботика, автоматизация и иновации каза в ефира на NOVA NEWS, че очакванията са, че пазарът наистина ще може сам да се регулира, но доколко това ще е така – предстои да се разбере.
„Споразумението, което подписаха технологичните лидери и Доналд Тръмп, казва следното – вътрешно екипите ще проверяват ситуациите, в които ИИ може да нанесе проблеми, като например хакерска атака срещу банка. На второ място независим екип в самата компания ще оценява работата на техническия екип и ще дава обратна връзка какво да се промени. На трето място има външен анализ, одит, който тества това, което се е случило в компанията. И на последно място има надзорен съвет на самата компания, който следи как управителният съвет, било то на Meta, Google и т.н., имплементира тези промени и какви решения са взети на база на резултатите“, обясни експертът.
Според Михайлов споразумението е правилна стъпка от гледна точка на това, че компаниите започват да осъзнават нуждата от регулация. Той припомни, че в ЕС за разлика от САЩ има закон, който регулира изкуствения интелект. Големият проблем, обаче, идва от там, че често не знаем той как работи, каза Михайлов и допълни, че ИИ оперира със силно чувствителни данни и е видно, че има пропуски в киберсигурността от гледна точка на системите, до които бива допуснат.
„Ние, хората, халюцинираме. Същото прави и изкуственият интелект, което означава, че няма как да се доверим на сляпо на неговите резултати. Тоест трябва да проверяваме това, което ни дава“, обясни той.
По думите на Михайлов рискът идва не от използването на ИИ, а от това, че му се предоверяваме и не вярваме на собствената си преценка. „Защото утре съответният езиков модел ще бъде внедрен не само в банка, а в някоя критична инфраструктура. И ролята на хората става ключова. Говорим за нуждата човек да има критично мислене. Не да не използва ИИ, а да го използва със знанието кога да му се довери и кога не“, категоричен беше Михайлов.
Целия разговор чуйте във видеото.
