Дослідження, проведене Google DeepMind, висвітлило шість категорій атак, які можуть бути застосовані до автономних AI-агентів.
- Серед виявлених методів є невидимі HTML-команди, які можуть вводити AI в оману.
- Також розглядаються групові збої, які можуть поставити під загрозу цілу мережу агентів.
- Фахівці Google закликали вжити заходів для захисту таких систем від потенційних загроз і атак.