מאת: עו"ד ארי סירקין

היחוד האירופי עיגן בחקיקה חדשה ותקדימית את תחום הבינה המלאכותית (“חוק הבינה המלאכותית של האיחוד האירופי”)¹ שנועדה להסדיר באופן מקיף את פיתוחן ושימושן של מערכות בינה מלאכותית. מדובר ביוזמה הראשונה מסוגה בעולם, המהווה אבן דרך בקביעת סטנדרטים בינלאומיים להפעלה אתית, שקופה ובטוחה של טכנולוגיות AI.

חוק הבינה המלאכותית של האיחוד האירופי, שאומץ באפריל 2021 ונכנס לתוקף באוגוסט 2024, מחיל בתוכו חובות הולכות ומתרחבות לאורך תקופה של 6–36 חודשים, בהתאם לסוגי המערכות ולרמת הסיכון הכרוך בהן.

עקרונות מרכזיים בחוק:

החוק מציב דרישות ברורות בתחומי פיקוח אנושי, שקיפות, אבטחת מידע והגנת פרטיות – החלות לא רק על חברות אירופיות, אלא גם על כל גוף מחוץ לאיחוד המציע שירותי AI לאזרחי האיחוד. בין היתר:

1. פיקוח אנושי:

• הארגונים חייבים להבטיח כי מפעילים אנושיים יכולים להבין ולבטל את פלט המערכת במידת הצורך.
• מערכות חייבות לאפשר התערבות ובקרה אנושית אפקטיבית, במטרה למנוע סיכונים.

2. ניטור לאחר השיווק:

• ספקי מערכות בסיכון גבוה נדרשים להקים מנגנוני מעקב שוטפים לאיתור כשלים.

3. דרישות רישום (Logging)

• כל פעולה חייבת להיות מתועדת לצורכי ביקורת וחקירה עתידית.

4. שקיפות וגילוי למשתמשים:

• המערכות מחוייבות בחשיפה בפני המשתמש מתי הוא מתקשר עם מערכות AI. ובפרט במערכות גנרטיביות כגון (ChatGPT) או יישומים היוצרים תוכן סינתטי (Deepfakes) .

5. AI גנרטיבי מחוייב אף ב:

• לפרסם סיכומים של נתוני זכויות יוצרים ששימשו לאימון המודלים.
• ליישם אמצעי בטיחות למניעת יצירת תוכן בלתי חוקי.
• לסמן באופן ברור תוכן שנוצר על ידי AI.

קנסות סנקציות בהתאם לחוק

החוק קובע קנסות מנהליים מחמירים בהשראת מודל GDPR -הנעים בין, 15 מיליון יורו ועד 35 מיליון אירו או 3%-7% מהמחזור השנתי העולמי של התאגיד, הגבוה מביניהם. רמות הענישה נעות בהתאם לחומרת ההפרה: החל מפרקטיקות אסורות כגון דירוג חברתי או מעקב ביומטרי בזמן אמת; אי עמידה בחובות מערכות בסיכון גבוה (למשל: חוסר פיקוח אנושי, חוסר הערכת תאימות, כשל בניהול סיכונים ועוד.) ועד אי-עמידה בדרישות שקיפות בסיסיות (אי סימון תוכן סנטתי, חוסר גילוי למשתמשים וכיוצ"ב).

השלכות על חברות ישראליות

החוק חל גם על חברות ישראליות המפתחות או מספקות שירותי AI לאיחוד האירופי. בשל כך, חברות ישראליות הפועלות בשוק זה מחויבות לבחון את מערכותיהן ולהיערך לעמידה במערך הדרישות המחמיר.

החוק חל גם על חברות ישראליות המפתחות או מספקות שירותי AI לאיחוד האירופי. בשל כך, חברות ישראליות הפועלות בשוק זה מחויבות לבחון את מערכותיהן ולהיערך לעמידה במערך הדרישות המחמיר.

שלבים מרכזיים שבהם ליווי משפטי הוא חיוני

הערכת סיכונים וסיווג מערכות

חוק הבינה המלאכותית של האיחוד האירופי מבסס משטר רגולטורי המבוסס על סיווג רמות סיכון נמוך, בינוני וגבוה – לכל מערכת בינה מלאכותית. קביעת הסיווג הנכון היא שלב קריטי, שכן היא קובעת את היקף החובות החלות על הארגון: החל מחובת שקיפות אלגוריתמית ותיעוד מלא של תהליכי הפיתוח, דרך יישום פרקטיקות ניהול סיכונים וכלה בבקרות מתקדמות ומנגנוני ניטור רציפים. אנו ב JST&Co. מסייעים ללקוחותינו במיפוי סיכונים, בבחינת תהליכי העבודה ובבניית תוכנית ציות מותאמת, שתבטיח עמידה בדרישות החוק ותפחית חשיפה משפטית ורגולטורית.

עריכת הסכמים עם ספקי טכנולוגיה

כאשר מערכת הבינה המלאכותית נרכשת או מופעלת באמצעות ספק צד שלישי, ובפרט כאשר מדובר בספקים מחוץ לאיחוד האירופי, קיימת חשיבות עליונה להבטיח שההסכמים משקפים ועומדים בדרישות החוק האירופי. אנו עורכים ומעדכנים הסכמי התקשרות כך שיכללו מנגנוני אחריות, התחייבויות עמידה בסטנדרטים האירופיים והגנות מתאימות למזמין השירות, תוך ניהול סיכוני ציות ואחריות משפטית.

עמידה בדרישות פרטיות והגנת מידע

אחד היסודות המרכזיים של החוק הוא הגנה על פרטיות המשתמשים ואבטחת המידע האישי שלהם. למשרדנו מומחיות רחבה ביישום דיני הגנת הפרטיות והמידע בישראל ובאירופה, לרבות עמידה בתקנות ה GDPR -אנו מסייעים לחברות להבטיח שהמערכות שלהן עומדות בסטנדרטים הגבוהים ביותר של אבטחת מידע, שמירה על פרטיות ודיווח לרשויות הרלוונטיות.

פיתוח מנגנוני שקיפות ובקרה

החוק האירופי מדגיש את חובת השקיפות באשר לאופן פעולתן של מערכות AI , במיוחד במערכות בעלות השפעה מהותית על משתמשים. אנו מייעצים ללקוחותינו כיצד לבנות פרוטוקולי דיווח וכלי הסבר (Explainability Tools) שיאפשרו לרשויות ולמשתמשי הקצה להבין את תהליכי קבלת ההחלטות, להפחית סיכוני אחריות ולהגביר את אמון הציבור במערכת.

הכנה לדיווחים רגולטוריים והליכי הסמכה

במקרים רבים נדרשות חברות, ובמיוחד ספקי מערכות בסיכון גבוה, להגיש דוחות תקופתיים לרגולטורים באיחוד האירופי ולעמוד בהליכי הסמכה מחמירים. אנו מספקים ליווי צמוד בהכנת המסמכים, בבחינת עמידה בתנאי הסף ובהתנהלות מול רשויות הפיקוח, באופן שמבטיח תהליך יעיל ומסודר ומפחית סיכון לאי-עמידה.

ניהול סיכונים ואסטרטגיה משפטית ארוכת טווח

מערכות בינה מלאכותית דורשות מדיניות ניהול סיכונים דינמית ומתמשכת. אנו מסייעים ללקוחותינו לבנות אסטרטגיות משפטיות מקיפות, המשלבות תוכניות מניעה, נהלי תגובה מהירה לאירועים ותהליכי בקרה פנימיים. כך ניתן להתמודד מראש עם תרחישים של שימוש לרעה בטכנולוגיה, פגיעה בזכויות יסוד או הפרת הוראות רגולציה.

1. שם התקנה המלא באנגלית: (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) ↩︎

התמונה בדף זה ובדף הבית ניתנת באדיבות Freepik.