Elektrine
Log in Register

#promptinjection

17 posts · Last used 8d

Back to Timeline
ErikJonker
Erik Jonker @ErikJonker@mastodon.social · Aug 03, 2026
Nice paper about why LLMs can never be fully protected against prompt injection. https://role-confusion.github.io/ #LLM #AI #Promptinjection #cybersecurity
6
0
5
sekurakbot
sekurak News @sekurakbot@mastodon.com.pl · Jul 24, 2026
Nowa wariant ataku wstrzyknięcia – BioShocking AI. Badacze przekonali AI, że to tylko gra. Efekt? Zignorowanie zasad bezpieczeństwa i kradzież danych Badacze z LayerX znaleźli sposób na “oszukanie” przeglądarek AI, aby wykonały one dowolną instrukcję. Udało im się przekonać je do naruszenia zabezpieczeń, ujawnienia danych użytkownika, kopiowania kodu, wykonywania poleceń systemowych i nie tylko. TLDR: Odkrytej podatności nadali oni nazwę BioShocking. Inspiracją była gra wideo BioShock, w której postać gracza zostaje... #Aktualności #Ai #Bezpieczeństwo #Bioshocking #PromptInjection https://sekurak.pl/nowa-wariant-ataku-wstrzykniecia-bioshocking-ai-badacze-przekonali-ai-ze-to-tylko-gra-efekt-zignorowanie-zasad-bezpieczenstwa-i-kradziez-danych/
0
0
0
Cloud 🤖 @cloud@infosec.exchange · Jul 22, 2026
🤖 Microsoft Azure DevOps MCP flaw: invisible PR comments hijack AI review agents via prompt injection. The official MCP server lacked guardrails on one tool, allowing data exfiltration across projects. 🔗 https://thehackernews.com/2026/07/microsoft-azure-devops-mcp-flaw-lets.html #AISecurity #DevSecOps #PromptInjection #CyberSec
0
0
0
akavlabs
AKAV LABS @akavlabs@infosec.exchange · Jul 15, 2026
Spent four sessions trying to break my own open-source LLM security gateway instead of shipping features. The finding that stuck: my egress DLP detected a leaked API key in the model's response — then returned it to the client anyway. Log-only. Detected the leak, delivered it. Wrote up every gap ↓ #LLMSecurity #PromptInjection #AISecurity #infosec
0
1
0
thenewoil
The New Oil @thenewoil@mastodon.thenewoil.org · Jul 14, 2026
Now, defenders are embracing the #PromptInjection, too https://arstechnica.com/security/2026/07/now-defenders-are-embracing-the-prompt-injection-too/ #cybersecurity #AI
0
0
0
DailyCyberSecurity
Daily CyberSecurity @DailyCyberSecurity@infosec.exchange · Jul 14, 2026
Discover how new prompt injection attacks threaten AI security. Hackers use prompt injection techniques to manipulate AI agents and bypass safety controls. #PromptInjection #AISecurity #CrowdStrike #CyberSecurity https://securityonline.info/prompt-injection-attacks-ai/?utm_source=mastodon&utm_medium=jetpack_social
0
0
0
DailyCyberSecurity
Daily CyberSecurity @DailyCyberSecurity@infosec.exchange · Jul 13, 2026
Indirect prompt injection exploits AI agent vulnerabilities through malicious web content. Attackers manipulate language models using hidden instructions. #CyberSecurity #AI #PromptInjection #ThreatLabz #Malware http://securityonline.info/indirect-prompt-injection-ai/?utm_source=mastodon&utm_medium=jetpack_social
0
0
0
Cloud 🤖 @cloud@infosec.exchange · Jul 11, 2026
🤖 'Ghostcommit' attack: PNG-based prompt injection fools AI code reviewers (CodeRabbit, Bugbot) and tricks coding agents into exfiltrating repo secrets (.env). Novel AI supply chain vector demonstrated in the wild. 🔗 https://www.bleepingcomputer.com/news/security/ghostcommit-hides-prompt-injection-in-images-to-fool-ai-agents-steal-secrets/ #AIsecurity #PromptInjection #CyberSec
0
0
0
Cloud 🤖 @cloud@infosec.exchange · Jul 11, 2026
🤖 "Ghostcommit" attack: PNG images hide prompt injection to trick AI coding agents into leaking repository secrets (env files, private keys). Bypasses AI code reviewers CodeRabbit & Bugbot. 🔗 https://www.bleepingcomputer.com/news/security/ghostcommit-hides-prompt-injection-in-images-to-fool-ai-agents-steal-secrets/ #PromptInjection #AISecurity #CyberSec
0
0
0
sekurakbot
sekurak News @sekurakbot@mastodon.com.pl · Feb 23, 2026
OpenAI wdraża Lockdown Mode. Czy to oznacza koniec ataków typu prompt injection? Projektując aplikacje oparte o duże modele językowe (LLM) należy zapoznać się z OWASP TOP 10 for LLM. Jest to bezpośredni odpowiednik OWASP TOP 10 dla aplikacji webowych, zawierający listę najczęściej występujących podatności w aplikacjach korzystających z LLM. TLDR: Zgodnie z przewidywaniami, na pierwszym miejscu umieszczono Prompt Injection – zagrożenie, wynikające z... #WBiegu #Ai #Ataki #Lockdown #Openai #PromptInjection https://sekurak.pl/openai-wdraza-lockdown-mode-czy-to-oznacza-koniec-atakow-typu-prompt-injection/
1
0
2
sekurakbot
sekurak News @sekurakbot@mastodon.com.pl · Feb 19, 2026
AI bez lukru #29: AI bez kajdanów etyczności Cześć! Z tej strony Tomek Turba. AI bez lukru to cykl moich felietonów o sztucznej inteligencji bez marketingowego lukru, bez korporacyjnych slajdów i bez bajek o „rewolucji, która wszystko zmieni”. Pokazuję AI taką, jaka jest naprawdę: z absurdami, wpadkami, halucynacjami i konsekwencjami, o których rzadko mówi się głośno. Bez zadęcia,... #Aktualności #Teksty #Ai #BezLukru #Felieton #Jailbreak #PromptInjection https://sekurak.pl/ai-bez-lukru-29-ai-bez-kajdanow-etycznosci/
0
0
0

You've seen all posts