Verdieping · module 82 van 95
Red teaming en edge cases
Test bewust waar AI faalt of ongewenst gedrag vertoont.
Na deze les
Je kunt een paar edge cases bedenken om een AI-toepassing te testen.
Wat is red teaming?
Bewust proberen het systeem te laten falen of ongewenste output te geven.
Edge cases
Ongewone input, tegenstrijdige instructies of vragen buiten het bedoelde gebruik.
Waarom doen?
Zo ontdek je zwakke plekken voordat gebruikers ze tegenkomen.
Een prompt om mee te starten
Bedenk drie edge cases waarmee je een AI-assistent voor klantvragen zou testen. Leg per case uit wat er mis zou kunnen gaan.
Pas het toe
Je test een assistent alleen met duidelijke, complete vragen. In gebruik krijgt hij onvolledige en tegenstrijdige verzoeken.
Welke aanpak past het best bij deze situatie?
- Test alleen de beste voorbeelden opnieuw.
- Voeg ontbrekende gegevens, tegenstrijdigheden en verzoeken buiten de grenzen toe aan de testset.
- Noem de assistent betrouwbaar na één correcte demonstratie.
Met JavaScript kun je je aanpak controleren en direct feedback krijgen.
Test je inzicht
Wat is het doel van red teaming?
- Zwakke plekken vinden voordat ze in de praktijk problemen geven.
- AI zo snel mogelijk kapot maken.
- Het is alleen voor beveiligingsexperts.
Extra oefenen
Noteer twee edge cases voor een AI-toepassing die jij gebruikt of wilt gebruiken.
1. Een vraag die buiten de kennis van het systeem valt. 2. Een verzoek om iets te doen wat niet mag.