100. The impact of OWASP's top 10s on securing AI
100. The impact of OWASP's top 10s on securing AI
Jelle en Gerben bespreken de beveiliging van AI toepassingen en onderzoeken de bedreigingen en kwetsbaarheden die zich kunnen voordoen bij de ontwikkeling van dergelijke toepassingen, waaronder toepassingen die gebruikmaken van AI modellen, modellen voor machine learning of chatbots met large language model (LLM). Om te bepalen hoe veilige AI apps kunnen worden gebouwd, onderzoeken ze de inspanningen van OWASP om veelvoorkomende risico's te identificeren aan de hand van hun top 10-lijsten. Ze bespreken de focus en tekortkomingen van deze lijsten en hoe de theorie erachter zich verhoudt tot het beveiligen van daadwerkelijke toepassingen. Jelle en Gerben nemen de Machine Learning top 10 en de Large Language Model top 10 onder de loep. Op basis van deze risico's debatteren ze over de vraag of de top 10's ontwikkelaars helpen of dat ze zelf risico's vormen. Hoewel ze het er allebei over eens zijn dat de lijsten een belangrijke rol spelen bij het vergroten van het bewustzijn en het initiëren van belangrijke discussies, zijn ze het er niet over eens of de top 10's een netto positief effect hebben. Specifiek bespreken ze mogelijke categorisatieproblemen en het mogelijke misbruik van de top 10's als checklists.
Links voor meer informatie:
Meer video's
-
143. Harness Engineering: How to Build Better AI Coding Agents
Wat is harness engineering? Ontdek hoe tools, context en geautomatiseerde controles AI coding agents zoals GitHub Copilot consistenter laten werken.ContenttypeVideo
-
142. Quantum Computing: Let's Write Some Actual Code! (Q# & Azure Quantum)
Aan de slag met quantum computing in Q#: Christian en Jelle werken met qubits, superpositie en verstrengeling en draaien code op Azure Quantum.ContenttypeVideo
-
141. Quantum Computing: From Qubits to Algorithms
Hoe vinden quantumcomputers het juiste antwoord? Christian en Jelle over qubits, interferentie, quantumpoorten en de algoritmes van Grover en Shor.ContenttypeVideo
Altijd op de hoogte met onze Betatalks en tech-updates!
Schrijf je in en ontvang om de week een update met de nieuwste kennis en ontwikkelingen.