כזכור, חוק הבינה המלאכותית של האיחוד האירופי ( (EU AI ACT נכנס לתוקף בחודש אוגוסט האחרון, כאשר הוראותיו תכנסנה לתוקף, בהתאם לתקופות שהוגדרו במסגרת החוק.
ה- EU AI ACT הינה יוזמת דגל להסדרת השימוש בטכנולוגיית הבינה המלאכותית. היא פועלת לפי גישה מבוססת סיכונים, כאשר הרעיון המרכזי הוא להתייחס לבינה המלאכותית בהתבסס על יכולתה לגרום נזק לחברה: ככל שהסיכון גבוה יותר, כך הכללים מחמירים יותר. לפיכך, הוגדרו מספר רמות של מערכות בינה מלאכותית: החל מסיכון מינימלי, דרך החלת משטר קפדני במקרים של שימוש בסיכון גבוה, ועד למערכות ברמת סיכון אשר אינו מקובל (Unacceptable risk) – אשר שימוש בהן ייאסר.
האירוע הינו בעל חשיבות ומהווה ציון דרך במהלכים החקיקתיים לאסדרת טכנולוגיית הבינה המלאכותית.
החל מיום 2 בפברואר 2025, ייאסר השימוש בפרקטיקות מסוימות של בינה מלאכותית אשר נאסרו לשימוש במסגרת חוק הבינה המלאכותית של האיחוד האירופי:
מערכות שמגבשות ציונים חברתיים:
מערכות בינה מלאכותית המסווגות או מעריכות אנשים או קבוצות לפי התנהגות חברתית או מאפיינים אישיים, באופן הגורם ליחס בלתי הוגן או לא פרופורציונלי בהקשרים חברתיים שונים. מדובר הן על ידי רשויות ציבוריות והן על ידי גורמים פרטיים, ולא רק מטעם רשויות ציבוריות כפי שהוצע במקור.
הערכות סיכון מנבאות:
מערכות בינה מלאכותית המשמשות להערכת או חיזוי סיכון של אדם לבצע עבירה פלילית, בהתבסס על פרופילים אישיים או הערכת מאפייני אישיות בלבד.
מערכות הסקת רגשות:
מערכות בינה מלאכותית המיועדות להסקת רגשות של אדם בסביבת עבודה או מוסדות חינוך.
מערכות סיווג ביומטרי:
מערכות סיווג ביומטרי המסווגות אנשים פרטיים על פי נתוניהם הביומטריים, לצורך הסקת מאפיינים כגון גזע, דעות פוליטיות, אמונות דתיות או פילוסופיות או נטייה מינית.
מערכות שמנצלות פגיעויות:
מערכות בינה מלאכותית המנצלות פגיעויות של אדם או קבוצה, כגון גיל, מוגבלות או מצב חברתי-כלכלי, לצורך עיוות התנהגותם באופן שעלול לגרום נזק משמעותי.
טכניקות סאבלימינליות ומניפולטיביות:
מערכות בינה מלאכותית המשתמשות בטכניקות סאבלימינליות, או בטכניקות מניפולטיביות ומטעות במכוון. מטרתן או תוצאתן היא עיוות משמעותי של התנהגותו של אדם או קבוצת אנשים, באופן הפוגע ביכולתם לקבל החלטות מושכלות, ומוביל לקבלת החלטות שלא היו מתקבלות אחרת, תוך גרימת נזק משמעותי לאדם או לקבוצה.
מאגרי זיהוי פנים:
מערכות בינה מלאכותית המשמשות ליצירה או הרחבה של מאגרי זיהוי פנים באמצעות איסוף בלתי ממוקד של תמונות פנים מהרשת או צילומי מצלמות אבטחה .(CCTV)
מערכות זיהוי ביומטרי בזמן אמת:
שימוש במערכות זיהוי ביומטרי בזמן אמת במרחבים ציבוריים לצורכי אכיפת חוק, למעט במקרים בהם השימוש חיוני לצרכים שהוגדרו בחוק.
אי עמידה בהוראות החוק עלולה להוביל להטלת קנסות מנהליים של עד 35 מיליון אירו, או 7% מההכנסות השנתיות הכוללות של החברה, הגבוה מביניהם. כמו כן, הפרת התקנות עשויה לגרום להפסד גישה לשוק האירופי, פגיעה במוניטין, חשיפה לתביעות משפטיות והפסד הזדמנויות עסקיות והשקעות.
