LLMs, das Firmen-Wiki und Data Poisoning - FSCK 2025

Dieser Vortrag von der FSCK 2025 Konferenz untersucht die Verbindung von Unternehmensdatenbanken und Unternehmens-Wikis mit LLM-APIs und die damit verbundenen Sicherheitsrisiken. Erfahre, wie eine typische Architektur für die Integration von Unternehmensdaten mit Large Language Models aussieht und wie diese über Chat-Interfaces abgefragt werden können. Der Referent Skyr demonstriert anhand einer skizzenhaften Umsetzung verschiedene Angriffswege und zeigt, wie durch Data Poisoning gezielt manipulierte LLM-Ergebnisse an bestimmte Zielpersonen ausgespielt werden können. Die 48-minütige Präsentation beleuchtet kritisch die Frage "What could possibly go wrong!" bei solchen Implementierungen und ist unter einer Creative Commons Lizenz (CC BY 4.0) verfügbar.