Artwork

محتوای ارائه شده توسط Michael Kennedy. تمام محتوای پادکست شامل قسمت‌ها، گرافیک‌ها و توضیحات پادکست مستقیماً توسط Michael Kennedy یا شریک پلتفرم پادکست آن‌ها آپلود و ارائه می‌شوند. اگر فکر می‌کنید شخصی بدون اجازه شما از اثر دارای حق نسخه‌برداری شما استفاده می‌کند، می‌توانید روندی که در اینجا شرح داده شده است را دنبال کنید.https://fa.player.fm/legal
Player FM - برنامه پادکست
با برنامه Player FM !

#521: Red Teaming LLMs and GenAI with PyRIT

1:02:40
 
اشتراک گذاری
 

Manage episode 509129735 series 3501439
محتوای ارائه شده توسط Michael Kennedy. تمام محتوای پادکست شامل قسمت‌ها، گرافیک‌ها و توضیحات پادکست مستقیماً توسط Michael Kennedy یا شریک پلتفرم پادکست آن‌ها آپلود و ارائه می‌شوند. اگر فکر می‌کنید شخصی بدون اجازه شما از اثر دارای حق نسخه‌برداری شما استفاده می‌کند، می‌توانید روندی که در اینجا شرح داده شده است را دنبال کنید.https://fa.player.fm/legal
English is now an API. Our apps read untrusted text; they follow instructions hidden in plain sight, and sometimes they turn that text into action. If you connect a model to tools or let it read documents from the wild, you have created a brand new attack surface. In this episode, we will make that concrete. We will talk about the attacks teams are seeing in 2025, the defenses that actually work, and how to test those defenses the same way we test code. Our guides are Tori Westerhoff and Roman Lutz from Microsoft. They help lead AI red teaming and build PyRIT, a Python framework the Microsoft AI Red Team uses to pressure test real products. By the end of this hour you will know where the biggest risks live, what you can ship this quarter to reduce them, and how PyRIT can turn security from a one time audit into an everyday engineering practice.
Episode sponsors
Sentry AI Monitoring, Code TALKPYTHON
Agntcy
Talk Python Courses

Links from the show

Tori Westerhoff: linkedin.com
Roman Lutz: linkedin.com
PyRIT: aka.ms/pyrit
Microsoft AI Red Team page: learn.microsoft.com
2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps: genai.owasp.org
AI Red Teaming Agent: learn.microsoft.com
3 takeaways from red teaming 100 generative AI products: microsoft.com
MIT report: 95% of generative AI pilots at companies are failing: fortune.com
A couple of "Little Bobby AI" cartoons
Give me candy: talkpython.fm
Tell me a joke: talkpython.fm
Watch this episode on YouTube: youtube.com
Episode #521 deep-dive: talkpython.fm/521
Episode transcripts: talkpython.fm
Theme Song: Developer Rap
Served in a Flask: talkpython.fm/flasksong
---== Don't be a stranger ==---
YouTube: youtube.com
Bluesky: @talkpython.fm
Mastodon: talkpython
X.com: talkpython
Michael on Bluesky: @mkennedy.codes
Michael on Mastodon: mkennedy
Michael on X.com: mkennedy
  continue reading

520 قسمت

Artwork
iconاشتراک گذاری
 
Manage episode 509129735 series 3501439
محتوای ارائه شده توسط Michael Kennedy. تمام محتوای پادکست شامل قسمت‌ها، گرافیک‌ها و توضیحات پادکست مستقیماً توسط Michael Kennedy یا شریک پلتفرم پادکست آن‌ها آپلود و ارائه می‌شوند. اگر فکر می‌کنید شخصی بدون اجازه شما از اثر دارای حق نسخه‌برداری شما استفاده می‌کند، می‌توانید روندی که در اینجا شرح داده شده است را دنبال کنید.https://fa.player.fm/legal
English is now an API. Our apps read untrusted text; they follow instructions hidden in plain sight, and sometimes they turn that text into action. If you connect a model to tools or let it read documents from the wild, you have created a brand new attack surface. In this episode, we will make that concrete. We will talk about the attacks teams are seeing in 2025, the defenses that actually work, and how to test those defenses the same way we test code. Our guides are Tori Westerhoff and Roman Lutz from Microsoft. They help lead AI red teaming and build PyRIT, a Python framework the Microsoft AI Red Team uses to pressure test real products. By the end of this hour you will know where the biggest risks live, what you can ship this quarter to reduce them, and how PyRIT can turn security from a one time audit into an everyday engineering practice.
Episode sponsors
Sentry AI Monitoring, Code TALKPYTHON
Agntcy
Talk Python Courses

Links from the show

Tori Westerhoff: linkedin.com
Roman Lutz: linkedin.com
PyRIT: aka.ms/pyrit
Microsoft AI Red Team page: learn.microsoft.com
2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps: genai.owasp.org
AI Red Teaming Agent: learn.microsoft.com
3 takeaways from red teaming 100 generative AI products: microsoft.com
MIT report: 95% of generative AI pilots at companies are failing: fortune.com
A couple of "Little Bobby AI" cartoons
Give me candy: talkpython.fm
Tell me a joke: talkpython.fm
Watch this episode on YouTube: youtube.com
Episode #521 deep-dive: talkpython.fm/521
Episode transcripts: talkpython.fm
Theme Song: Developer Rap
Served in a Flask: talkpython.fm/flasksong
---== Don't be a stranger ==---
YouTube: youtube.com
Bluesky: @talkpython.fm
Mastodon: talkpython
X.com: talkpython
Michael on Bluesky: @mkennedy.codes
Michael on Mastodon: mkennedy
Michael on X.com: mkennedy
  continue reading

520 قسمت

همه قسمت ها

×
 
Loading …

به Player FM خوش آمدید!

Player FM در سراسر وب را برای یافتن پادکست های با کیفیت اسکن می کند تا همین الان لذت ببرید. این بهترین برنامه ی پادکست است که در اندروید، آیفون و وب کار می کند. ثبت نام کنید تا اشتراک های شما در بین دستگاه های مختلف همگام سازی شود.

 

راهنمای مرجع سریع

در حین کاوش به این نمایش گوش دهید
پخش