חוק האיחוד האירופי, התפתחות הרגולציה בארה"ב ומדיניות משרד החדשנות בישראל

לקוחות יקרים, 
אנו עדים לאחרונה בהתפתחות רגולטורית משמעותית בתחום הבינה המלאכותית בארץ ובעולם. ראשית, ב-30 באוקטובר, לאחר צפייה רבה פרסם ממשל ביידן צו מנהלי לפיקוח על בינה מלאכותית לרבות בינה מלאכותית יוצרת (Generative AI). בהמשך לכך, ב-7 לדצמבר, לאחר מעל לשנתיים וחצי של דיונים וטיוטות אושר נוסח הצעת החוק בנושא בינה מלאכותית The AI Act על ידי מועצת האיחוד האירופי. כמו כן, בהמשך לאסדרה בעולם, ב-18 בדצמבר פורסם על ידי משרד החדשנות, המדע והטכנולוגיה בישראל את מסמך המדיניות הסופי העוסק בתחום רגולציה ואתיקה בתחום הבינה המלאכותית  וזאת בהמשך לטיוטה שפורסמה באוקטובר 2022. המדיניות של משרד החדשנות מאמצת עקרונות בינלאומיים לחדשנות ושימוש אחראי בבינה מלאכותית ומהווה התשתית הרגולטורית לרגולטורים הפיננסים בבואם להגדיר הוראות בתחום.
הסקטור הפיננסי, המאופיין בשימושים רבים במודלים ובינה מלאכותית בתחומים השונים, מושפע באופן מידי מפרסומים אלו ומהשינויים באסדרה. 

ההתפתחות הרגולטורית המהירה בתחום תייצר צורך בהקמת מנגנוני ציות, בקרה וניהול סיכונים הן על שימושים קיימים והן על מערכות בשלבי פיתוח או בשלבי הטמעה שונים. 

יתכנו השפעות בטווח הקצר שיכללו נושאים כגון:
הגבלה או איסור על שימוש במערכות בינה מלאכותית מסוימות על פי הגדרת הסיכון שבחוק. הגבלות אלו עלולות להשפיע על שימוש במערכות קיימות, בחירת ספקים או על אסטרטגית הטמעה של מערכות בעתיד. 
יתכן ששימושים שונים בבינה מלאכותית שגופים פיננסים מיישמים כיום יוגדרו בהתאם לחוק האירופי כ"מערכות בסיכון גבוה" ובכך על מנהלי הסיכונים יהיה לבחון את הבקרות שהם מיישמים על שימושים אלו כהכנה לרגולציה אפשרית בתחום וכניהול נכון של הסיכון.
עקב התפתחות הרגולציה תידרש עבודת הכנה מקיפה של הגופים הפיננסים במיפוי הסיכונים שהם חשופים אליהם בשימושים הקיימים ובשימושים עתידיים של בינה מלאכותית וזאת בין היתר כהכנה לאימוץ עקרונות החוק בישראל. תהליך זה עלול לעקב הטמעה של מוצרים חדשים שעונים להגדרת מערכות "בסיכון גבוה".

האימוץ המהיר של גופים פיננסים של טכנולוגיות מתקדמות מתחום הבינה המלאכותית מסייע לבנקים בהתייעלות תפעולית, גידול הכנסות ויצירת ערך ללקוח. יחד עם זאת חושף את הגופים לסיכונים חדשים החל מחשש לפגיעה בפרטיות ותקיפות סייבר וכלה באפליית לקוחות בעת קבלת החלטות.
הגופים נדרשים לבצע הליך מקיף של ניהול סיכוני בינה מלאכותית על מנת להתמודד עם סיכונים אלו.

בכבוד רב,
KPMG סומך חייקין