Безопасность
Искусственный интеллект может стать ботнетом из-за галлюцинаций, предупреждают исследователи
Исследователи предупреждают, что агенты ИИ могут быть обмануты и скачать вредоносный код, используя те же галлюцинации, которые вызывают ошибки чатботов.
AS1 NewsИсточник: decrypt.co
Исследователи в области искусственного интеллекта предупредили, что агенты ИИ могут стать мишенью для злоумышленников, которые используют их склонность к галлюцинациям — ошибкам, возникающим в результате неправильной интерпретации данных. Эти галлюцинации могут быть использованы для обмана системы и загрузки вредоносного кода.
Такая уязвимость особенно опасна в контексте криптоиндустрии, где ИИ используется для автоматизации торгов, анализа данных и обеспечения безопасности. Злоумышленники могут внедрять вредоносные скрипты, маскируя их под легитимные команды или ответы системы.
Это открывает новые риски для безопасности, поскольку злоумышленники могут превратить AI-агентов в ботнеты — сети заражённых устройств, управляемых удалённо для проведения атак или кражи данных.
На данный момент исследование подчеркивает необходимость разработки методов защиты AI-систем от подобных атак и повышения их устойчивости к галлюцинациям, чтобы предотвратить возможные злоупотребления и обеспечить безопасность криптовалютных платформ и сервисов.
Обнаруженные уязвимости могут повлиять на безопасность AI-систем в криптоиндустрии, повышая риск злоупотреблений и атак.