Ontdek hoe Google Workspace met Gemini gebruikers beschermt tegen schadelijke content en promptinjectie.
Schadelijke content en promptinjectie in generatieve AI
Net als bij e-mail- en contentbedreigingen, zoals malware- en phishing-aanvallen, kunnen beveiligingsdreigingen generatieve AI-tools targeten. Bij promptinjectie wordt er geprobeerd om generatieve AI-tools onbedoelde of schadelijke reacties te laten geven. Aanvallers kunnen prompts niet alleen injecteren door rechtstreeks vragen te stellen, maar ook door schadelijke content te delen met een gebruiker die deze dan onbedoeld gebruikt in prompts in generatieve AI-tools, zoals Gemini Apps en Google Workspace met Gemini.
Google gebruikt geavanceerde beveiligingsmaatregelen om risicovolle en verdachte content te herkennen en zo Gemini-gebruikers te beschermen.
Hoe Google schadelijke content en promptinjectie opspoort
Het Gemini-zijvenster kan bepaalde reacties filteren of blokkeren als er schadelijke activiteit wordt waargenomen. Zo word je beschermd tegen schadelijke content en promptinjectie.
Wanneer Gemini activiteit met betrekking tot een mogelijk schadelijke prompt vaststelt
- In het Gemini-zijvenster verschijnt een waarschuwing dat de content beveiligingsrisico's bevat.
- Soms kan niets van je content worden gebruikt om een reactie te genereren.
- Soms wordt maar een deel van je content gebruikt om een reactie te genereren, waarbij Gemini de schadelijke content uitsluit.
Als je Gemini in Gmail bijvoorbeeld vraagt om e-mailberichten samen te vatten en een van die berichten bevat schadelijke content, dan reageert Gemini om veiligheidsredenen misschien niet op je prompt.
Onveilige content helpen vermijden
Let op bij content van iemand die je niet kent
- Let op waarschuwingen van Google voor content die je krijgt in andere tools, zoals Gmail.
- Klik niet op links van onbetrouwbare bronnen.
- Wees voorzichtig met gedeelde content van onbekende afzenders, zoals bestanden in Drive.
Schadelijke berichten in Gmail melden
Als je een misleidend bericht of een misleidende URL in Gmail krijgt, kun je dit melden als phishing. Bij phishing wordt geprobeerd om persoonlijke informatie te stelen via misleidende e-mails, berichten, advertenties of websites die legitiem lijken. Een phishingmail kan bijvoorbeeld afkomstig lijken van je bank en om privé-informatie over je bankrekening vragen. Meer informatie over hoe je phishing meldt in Gmail.
Schadelijke documenten in Documenten en Drive melden
Als je schadelijke documenten, bestanden, afbeeldingen en andere content krijgt in Documenten en Drive, kun je deze melden. Meer informatie over hoe je ongeoorloofde content meldt.
Schadelijk gedrag in Gemini in Workspace-apps melden
Als je een reactie krijgt die niet klopt of waarvan je denkt dat deze onveilig is, kun je feedback over die reactie geven om dit te melden. Meer informatie over hoe je misbruik in Gemini in Workspace-apps meldt.