Wat is prompt injection?
Prompt injection is een beveiligingsaanval waarbij verborgen of kwaadaardige instructies worden verstopt in de content die een AI-model leest, waardoor het wordt misleid om zijn regels te negeren of iets onbedoelds te doen.
Prompt injection is een beveiligingsaanval waarbij verborgen of kwaadaardige instructies worden verstopt in de content die een AI-model leest, waardoor het wordt misleid om zijn regels…
Prompt injection is een beveiligingsaanval waarbij verborgen of kwaadaardige instructies worden verstopt in de content die een AI-model leest, waardoor het wordt misleid om zijn regels te negeren of iets onbedoelds te doen. Zo kan tekst op een webpagina of in een document een AI-assistent opdragen data te lekken of een schadelijke actie uit te voeren. Het is een belangrijk beveiligingsrisico voor AI-systemen die externe content verwerken.
Wilt u dit toepassen in uw bedrijf? Bekijk hoe wij het naar productie brengen:
Van concept naar werkende tool?
Wij bouwen deze AI in productie, met vaste prijzen en een vaste expert. Begin met een gratis consult.
Gratis consult boeken →