Google-ов модел вештачке интелигенције (АI) Gemini је у току тестирања хакирао информационе системе три компаније. То је вероватно први познати случај у којем је неки програм самостално извео такав упад, пише BBC. Представник поменуте компаније објаснио је да је Gemini пронашао јавно доступне информације на интернету и мислио да припадају окружењу у којем га тестирају. Нагласио је да се у сваком појединачном случају сам зауставио. Kомпаније чији су системи пробијени обавештене су о упаду. Инцидент који се догодио у мају први је обелоданио Wall Street Journal. Тестирање је спроводила независна компанија специјализована за кибернетичку безбедност.
То није једини такав случај забeлежен у последње време. У јулу је модел Claudе, који усавршава компанија Аntrophic, пробио своје окружење у којем га испитују и самостално хакирао три организације. Само неколико дана раније компанија ОpenAI објавила je да су њени модели извели кибернетичке нападе на неколико јавно доступних услуга. Наведени инциденти подстичу јавну расправу о сигурности вештачке интелигенције и потреби за законском регулацијом.
У том контексту се очекује да извршни директор компаније Nvidiа Јенсен Хуанг и челник OpenAI Сем Алтман следећег петка присуствују државној вечери у Белој кући с кинеским председником Си Ђинпингом. Алтман би након тога требало да поднесе извештај Савету безбедности Уједињених нација. С друге стране, Хуанг се у разговору за CBS News успротивио идеји успоравања и поручио да би развој вештачке интелигенције требало убрзати што је више могуће.
(Илустрација Shutterstock)
(Индекс)
