Post by Ondřej "ousher" Šrámek, SSCP

Dáš AI agentovi přečíst email, webovku nebo dokument → a věříš tomu, co ti shrne 💻 Jenže agent nerozliší obsah, kterej má zpracovat od instrukce, kterou má poslechnout 🪳 Útočník schová příkaz do toho obsahu → agent ho provede. S tvojí důvěrou. Bez jedinýho kliknutí. 🥷 To není sci-fi. To je dnešní útočná plocha → a obrana zaostává za tím, jak rychle tyhle systémy dostávaj nový schopnosti 🏃‍♂️‍➡️ bug je submitted 📕 "Zero-click phishing-link laundering in LLM X" 🔤 Podařilo se mi LLM X přesvědit aby servíroval a pustil malicious link 🪳 Zabralo mi to jedno ráno, a mám takovej pocit, že tohle je jen tip of the iceberg ❄ Stay tuned 📻