Prompt injection is een beveiligingsaanval waarbij verborgen of kwaadaardige instructies worden verstopt in de content die een AI-model leest, waardoor het wordt misleid om zijn regels te negeren of iets onbedoelds te doen. Zo kan tekst op een webpagina of in een document een AI-assistent opdragen data te lekken of een schadelijke actie uit te voeren. Het is een belangrijk beveiligingsrisico voor AI-systemen die externe content verwerken.
Wilt u dit toepassen in uw bedrijf? Bekijk hoe wij het naar productie brengen:
Wij bouwen deze AI in productie — met vaste prijzen en een vaste expert. Begin met een gratis consult.
Gratis consult boeken →