מתקפות סייבר על מודלי שפה - עם נתן כץ ExplAInable podcast

Artwork

מדע Tamir Nave & Uri Goren Tamir Nave Uri Goren

محتوای ارائه شده توسط Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren. تمام محتوای پادکست شامل قسمت‌ها، گرافیک‌ها و توضیحات پادکست مستقیماً توسط Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren یا شریک پلتفرم پادکست آن‌ها آپلود و ارائه می‌شوند. اگر فکر می‌کنید شخصی بدون اجازه شما از اثر دارای حق نسخه‌برداری شما استفاده می‌کند، می‌توانید روندی که در اینجا شرح داده شده است را دنبال کنید.https://fa.player.fm/legal

ExplAInable « »
מתקפות סייבר על מודלי שפה - עם נתן כץ

6M ago 30:46

اشتراک گذاری

MP3•خانه قسمت

محتوای ارائه شده توسط Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren. تمام محتوای پادکست شامل قسمت‌ها، گرافیک‌ها و توضیحات پادکست مستقیماً توسط Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren یا شریک پلتفرم پادکست آن‌ها آپلود و ارائه می‌شوند. اگر فکر می‌کنید شخصی بدون اجازه شما از اثر دارای حق نسخه‌برداری شما استفاده می‌کند، می‌توانید روندی که در اینجا شرح داده شده است را دنبال کنید.https://fa.player.fm/legal

מודלי שפה גדולים אמנם עוזרים לפרודקטיביות, אבל גם של ההאקרים.

עולם הסייבר השתנה רבות מאז יציאת ChatGPT - מומחים מעריכים שמספר הפריצות גדל פי ארבעה.

בפרק זה נתן כץ יסקור לנו ארבע שיטות לניצול חולשות במודל השפה עצמו.

נדבר על גניבת מודלים, ״הרעלה״ של סט האימון והרעשה של המודל לביאס עבור מילת אקטיבציה ספציפיתץ

נתן יחלוק לנו מתובנותיו בlumin AI על תהליך המכירה לCSO בארגון, ונדבר על ההבדלים בין סיכוני open source ל״משקולות פתוחים״
לקריאה נוספת:

https://owasp.org/www-project-machine-learning-security-top-10/
https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v05.pdf

… continue reading

116 قسمت

#מדע #Tamir Nave & Uri Goren #Tamir Nave #Uri Goren

Artwork

מתקפות סייבר על מודלי שפה - עם נתן כץ

20 subscribers

published 6M ago

اشتراک گذاری

MP3•خانه قسمت

محتوای ارائه شده توسط Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren. تمام محتوای پادکست شامل قسمت‌ها، گرافیک‌ها و توضیحات پادکست مستقیماً توسط Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren یا شریک پلتفرم پادکست آن‌ها آپلود و ارائه می‌شوند. اگر فکر می‌کنید شخصی بدون اجازه شما از اثر دارای حق نسخه‌برداری شما استفاده می‌کند، می‌توانید روندی که در اینجا شرح داده شده است را دنبال کنید.https://fa.player.fm/legal

מודלי שפה גדולים אמנם עוזרים לפרודקטיביות, אבל גם של ההאקרים.

עולם הסייבר השתנה רבות מאז יציאת ChatGPT - מומחים מעריכים שמספר הפריצות גדל פי ארבעה.

בפרק זה נתן כץ יסקור לנו ארבע שיטות לניצול חולשות במודל השפה עצמו.

נדבר על גניבת מודלים, ״הרעלה״ של סט האימון והרעשה של המודל לביאס עבור מילת אקטיבציה ספציפיתץ

נתן יחלוק לנו מתובנותיו בlumin AI על תהליך המכירה לCSO בארגון, ונדבר על ההבדלים בין סיכוני open source ל״משקולות פתוחים״
לקריאה נוספת:

https://owasp.org/www-project-machine-learning-security-top-10/
https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v05.pdf

… continue reading

116 قسمت

#מדע #Tamir Nave & Uri Goren #Tamir Nave #Uri Goren

همه قسمت ها

×

به Player FM خوش آمدید!

Player FM در سراسر وب را برای یافتن پادکست های با کیفیت اسکن می کند تا همین الان لذت ببرید. این بهترین برنامه ی پادکست است که در اندروید، آیفون و وب کار می کند. ثبت نام کنید تا اشتراک های شما در بین دستگاه های مختلف همگام سازی شود.

به بیش از 500 موضوع گوش کنید

در حین کاوش به این نمایش گوش دهید