複数のレイヤできっちり仕事をされる Bruce Schneier 先生マジすげーなと思ったのであった。

Prompt injections into AI have created a new world of home-hacking opportunities. Here's how it works and my steps to protect yourself.

Schneier et al have reframed prompt injection as

Prompt injections into AI have created a new world of home-hacking opportunities. Here's how it works and my steps to protect yourself.

The growing adoption of agentic LLM applications has introduced a new threat previously named as promptware. While prior work has established that adversaries can exploit direct channels to LLM applications to apply promptware under weak threat models, many applications do not provide any direct ch…

    Beware of Agentic Botnets: Scalable Untargeted Promptware Attacks via Universal and Transferable Adversarial HalluSquatting 0 views Eyal Estrin unread, 12:52 PM (10 minutes ago)    to https://sites.google.com/view/agentic-botnets/home Eyal Estrin Author | Cloud Architect | AWS • Azure • GCP Insights Social: @eyalestrin Connect: https://linktr.ee/eyalestrin Blog: https://security-24-7.com Reply all Reply to author Forward

Involved Researchers: Aya Spira, Tel Aviv University Stav Cohen, Technion Elad Feldman, Tel Aviv University Ron Bitton, IntuitAvishai Wool, Tel Aviv UniversityBen Nassi, Tel Aviv University

Nový typ škodlivého softvéru nazvaný promptware využíva generatívne AI chatboty a agentov. Útočníci využívajú techniky ako "prompt injection" a "jailbreaking", aby získali prístup k systémom, získať informácie a diaľkovo ich ovládať.

Už ste pravdepodobne počuli o malvéri, ransoméri a špionáži. Teraz je tu nový hráč na scéne – promptware. Táto novinka predstavuje úplne nový model škodlivého softvéru, ktorý využíva generatívne AI chatboty alebo agentov. Ako uvádzajú Bruce Schneier a jeho spolupracovníci, reťazec zabíjania (kill chain) promptwaru je podrobný postup, ktorý opisuje fázy kybernetického útoku od prvotného prístupu až po dosiahnutie cieľov útočníka. Poďme sa na tento reťazec pozrieť a zistiť, ako môžeme lepšie pochopiť hrozbu a možno aj zabrániť jej. ### This post is for subscribers only Become a member to get access to all content Subscribe now

Relatório de cibersegurança da operadora italiana adverte que as tensões geopolíticas e o aumento do uso da IA contribuíram para um incremento relevante nos ataques de ransomware ao longo de 2025.

Relatório de cibersegurança da operadora italiana adverte que as tensões geopolíticas e o aumento do uso da IA contribuíram para um incremento relevante nos ataques de ransomware ao longo de 2025.

Schneier et al have reframed prompt injection as

The widespread adoption of AI has brought with it some new security vulnerabilities. One such issue? The rise of "promptware."

Private email by Mailfence - Everything you need to know about email privacy, security, encryption and email etiquette.

Attacken auf große Sprachmodelle gehen mittlerweile weit über reine Prompt-Injections hinaus. Zeit für eine Bestandsaufnahme.

総務省は3月27日、AI開発者・提供者向けに「AIのセキュリティ確保のための技術的対策に係るガイドライン」を公表した。

Attacken auf große Sprachmodelle gehen mittlerweile weit über reine Prompt-Injections hinaus. Zeit für eine Bestandsaufnahme.

Nové hrozby v kybernetickej bezpečnosti: hacknutie Xbox One po 10 rokoch, útoky „promptware“ na AI, zmena paradigmy cloudovej bezpečnosti a využívanie zabudovaných nástrojov ransomwaru. Dôležité je zabezpečiť celé ekosystémy a staré systémy kritickej infraštruktúry.