שנת 2024 – סיכום שנת הבינה המלאכותית – מכלי חדשני למנוע מחולל שינוי

שנת 2024 הייתה ללא ספק "שנת ה-AI בזכות ההתקדמות המהירה והמשמעותית בתחום הבינה המלאכותית והשפעתה הרחבה על תחומי חיים רבים. השנה התאפיינה בפריצות דרך ששינו את האופן שבו אנו מבינים ומשתמשים בטכנולוגיה. אחת הדוגמאות הבולטות הייתה שדרוג המודלים המולטימודליים, כמו GPT-4o של OpenAI שהביאו יכולות עיבוד משולבות של טקסט, תמונות, אודיו ווידאו. בזכות חידושים אלו נפתחו אפשרויות חדשות.

בנוסף, מודלים כמו ג'מיניי 2.0 חיזקו את המגמה לעבר עוזרי AI חכמים ומרובי יכולות. בתחום הווידאו הג'נרטיבי נרשמה קפיצת מדרגה, עם הופעת כלים מתקדמים ליצירת סרטונים איכותיים מתיאור טקסטואלי בלבד (כמו סורה, קלינג ולומה). טכנולוגיה זו חוללה מהפכה בעולם הפרסום והפקת התוכן, והפחיתה משמעותית את הצורך במשאבים מסורתיים.

מעבר לטכנולוגיה עצמה, הבינה המלאכותית הותירה חותם עמוק בתחומים כמו רפואה, מסחר ותחבורה. במגזר הבריאות, כלים מתקדמים הצליחו לאבחן מחלות בצורה מוקדמת ולסייע בפיתוח תרופות, כמו מודל Virchow של מיקרוסופט לזיהוי סרטן. במסחר האלקטרוני, חוויית הקנייה האישית השתדרגה בזכות צ'אטבוטים ושירות מותאם, בעוד שבתחבורה מערכות נהיגה אוטונומיות כמו Tesla Autopilot שיפרו את רמות הבטיחות והחדשנות.

שנת 2024 סימנה גם דמוקרטיזציה של הבינה המלאכותית, כאשר 75% מהארגונים בעולם דיווחו על שימוש יומיומי ב-AI ג'נרטיבי. שוק הבינה המלאכותית ממשיך לצמוח בצורה משמעותית. לפי תחזיות, שוק הבינה המלאכותית צפוי להיות עד לקצב צמיחה שנתי של 37.7%  בין השנים 2023 ל-2030.

התרחבות המודלים הקטנים הפכה את הטכנולוגיה לנגישה יותר לעסקים קטנים ומשתמשים פרטיים .עם זאת, השנה התאפיינה גם בדיונים על אתיקה ורגולציה. ממשלות וארגונים החלו לגבש תקנות שיבטיחו שימוש אחראי בטכנולוגיה, תוך מניעת ניצול לרעה – כולל כאן בישראל. שנת 2024 הפכה את הבינה המלאכותית מכלי חדשני בלבד למנוע שמשפיע על שוקי תעסוקה ומחולל שינוי היסטורי.

שימוש בתכנים מוגנים  בזכויות יוצרים לצורך אימון מכונה – נקודת מפנה?

כזכור, בעת האחרונה הוגשו מספר תביעות, כנגד חברות שונות, רבות מהן מבקשות הכרה כתובענות ייצוגיות, בגין שימוש בתכנים מוגנים, לרבות תמונות, קוד, יצירות ספרותיות ויצירות מוסיקליות), לצורך אימון מודלים של בינה מלאכותית. בכלל זה, מספר חברות מו"לות, ובכללן חברת Universal Publishing Group הגישה תביעה כנגד חברת הבינה המלאכותית Anthropic PBC, בטענה כי החברה עשתה שימוש במילות השירים לצרכי אימון מערכת הבינה המלאכותית שלה – "קלוד", וזאת ללא קבלת הרשאה מראש מבעלי הזכויות.

במהלך משמעותי לתעשיית הבינה המלאכותית והיצירה, חברת Anthropic הגיעה להסדר משפטי עם מו"לים מוסיקליים בנוגע לשימוש ביצירות מוגנות בזכויות יוצרים לצורך אימון מודלים של AI .

ההסדר, בעל השלכות רחבות על תחום הבינה המלאכותית, מסמן צעד חשוב בהתמודדות חברות הטכנולוגיה עם סוגיות של זכויות יוצרים, תוך הדגשת האיזון הנדרש בין חדשנות לבין שמירה על זכויות קניין רוחני. המו"לים המוסיקליים טענו כי Anthropic הפרה את זכויותיהם על ידי שילוב טקסטים משירים במאגרי האימון שלה, דבר שהם רואים כהפרה של זכויות היוצרים. ההחלטה של החברה להגיע להסדר משפטי במקום לנהל מאבק ארוך בבתי המשפט מצביעה על גישה אסטרטגית, המבקשת לשלב שיתוף פעולה עם בעלי הזכויות תוך שמירה על עמדתה כי שימוש זה עומד בהגדרת "שימוש הוגן".

ההסדר כולל פיתוח מנגנונים מתקדמים לאכיפת זכויות יוצרים, כגון אפשרות למו"לים לדווח על הפרות תוכן באופן יזום. מהלכים אלו עשויים להפוך לתקן בתעשייה וליצור איזון בין קידום הטכנולוגיה לשמירה על זכויות יוצרים.למרות עמדתה של Anthropic כי שימוש ביצירות לצורכי אימון הוא "שימוש הוגן", עדיין לא קיימת הכרעה משפטית ברורה בשאלה האם מדובר ב"שימוש טרנספורמטיבי".

החלטות עתידיות בנושא עשויות להגדיר את מסגרת הפעולה של חברות :AI האם להמשיך להסתמך על "שימוש הוגן" או לאמץ מודלים מבוססי רישוי. עבור תעשיית המוזיקה, ההסדר מהווה הישג אסטרטגי המשדר מסר לחברות טכנולוגיה אחרות – שימוש בחומרים מוגנים יוביל להשלכות משפטיות משמעותיות. ההסדר עשוי לשמש בסיס למודלים של רישוי ושיתופי פעולה עתידיים בין חברות  AI  ליוצרים, ולחזק את הדיאלוג בין שני התחומים.
המקרה מדגיש את החשיבות של הקפדה על זכויות יוצרים כחלק מהותי מתהליך פיתוח מודלים. בעידן שבו נתונים הם משאב חיוני, עמידה בתקנות אינה רק חובה משפטית, אלא גם צעד הכרחי לשימור אמון הציבור ושיתופי פעולה עם בעלי תוכן.

 

פרשת מאי גולן – האם הקלטות  השרה הן פרי בינה מלאכותית?

כמו כל מהפכה טכנולוגית, לצד ההזדמנויות האדירות, עלולות להופיע סכנות  משמעותיות, אשר יש להיערך אליהן. אחד החששות משימוש בטכנולוגיה כרוך בטכנולוגיית ה"דיפ פייק", המתארת יישום טכנולוגי מבוסס בינה מלאכותית אשר מאפשר יצירת תוכן לרבות תמונות, סרטוני וידאו וקטעי קול מזוייפים, באופן הנחזה להיות אותנטי.

האפשרות ליצור תמונות, סרטונים וקטעי קול מזוייפים הואצה לאחרונה בשל זמינותם  של כלי AI ופשטות השימוש בהם. כך למשל, ניתן להשתיל פנים של אדם בסרטון בו לא הופיע במקור, או לשנות בצורה מניפולטיבית, את המלל המופיע בסרטון. דוגמאות בולטות מהעת האחרונה אשר עוררו תהודה רבה ברחבי העולם, כוללות בין היתר, תמונות מפוברקות של נשיא ארה"ב דונלד טראמפ מתנגד למעצר ומנסה לברוח משוטרים, תמונות אלו זכו למיליוני צפיות.

הנושא עלה לאחרונה לכותרות גם בארץ, במסגרת פרשת מאי גולן, השרה לשוויון חברתי וקידום מעמד האישה. חדשות 12 שלחה מכתב התראה לפני תביעה, לשרה בדרישה לפיצוי בסך חצי מיליון שקלים ולפרסום התנצלות. חברת החדשות טוענת כי השרה פרסמה נגדה "דברי לשון הרע חמורים" בפוסט שפרסמה בעמוד ה-X שלה, בתגובה לתחקיר ששודר עליה במהדורה המרכזית .במכתב ההתראה צוין כי התחקיר, במסגרת סדרת "המבקר" של יוסי מזרחי ודפנה ליאל, ששודר לאחרונה, העלה לכאורה דפוסי פעולה בעייתיים במשרד השרה גולן. התחקיר כלל קטעים מהקלטות קוליות של השרה, שנשלחו כחלק מתכתובות וואטסאפ במהלך כהונתה .לאחר שידור התחקיר, פרסמה גולן תגובה חריפה ברשת X, להלן: "התחקיר מציג 'קול' מזויף שמיוחס לי, ככל הנראה באמצעות טכנולוגיית בינה מלאכותית, שכל בר דעת יכול לזהות שאינו דומה לקולי האמיתי. מטרתו הברורה היא להנדס את תודעת הציבור כאילו מדובר בקולי." גולן ציינה בנוסף שפרט להודעה אחת שהוקלטה, הודלפה ויצאה מהקשרה שאר החומרים הם יצירות של AI.

האמור מציף מקצת מהאתגרים הצפויים בפני עולם המשפט בעידן הבינה המלאכותית, כאשר מדינות שונות  כבר נקטו בצעדים להגבלת השימושים הבעייתיים בטכנולוגיה זו, עליהן עמדנו בהרחבה בעבר.

 

EU AI ACT – איסורים שנכנסים לתוקף

 

כזכור, חוק הבינה המלאכותית של האיחוד האירופי ( (EU AI ACT נכנס לתוקף בחודש אוגוסט האחרון, כאשר הוראותיו תכנסנה לתוקף, בהתאם לתקופות שהוגדרו במסגרת החוק.

ה- EU AI ACT הינה יוזמת דגל להסדרת השימוש בטכנולוגיית הבינה המלאכותית. היא פועלת לפי גישה מבוססת סיכונים, כאשר הרעיון המרכזי הוא להתייחס לבינה המלאכותית בהתבסס על יכולתה לגרום נזק לחברה: ככל שהסיכון גבוה יותר, כך הכללים מחמירים יותר. לפיכך, הוגדרו מספר רמות של מערכות בינה מלאכותית: החל מסיכון מינימלי, דרך החלת משטר קפדני במקרים של שימוש בסיכון גבוה, ועד למערכות ברמת סיכון אשר אינו מקובל (Unacceptable risk) – אשר שימוש בהן ייאסר.

האירוע הינו בעל חשיבות ומהווה ציון דרך במהלכים החקיקתיים לאסדרת טכנולוגיית הבינה המלאכותית.

 

החל מיום 2 בפברואר 2025, ייאסר השימוש בפרקטיקות מסוימות של בינה מלאכותית אשר נאסרו לשימוש במסגרת חוק הבינה המלאכותית של האיחוד האירופי:

מערכות שמגבשות ציונים חברתיים:
מערכות בינה מלאכותית המסווגות או מעריכות אנשים או קבוצות לפי התנהגות חברתית או מאפיינים אישיים, באופן הגורם ליחס בלתי הוגן או לא פרופורציונלי בהקשרים חברתיים שונים. מדובר הן על ידי רשויות ציבוריות והן על ידי גורמים פרטיים, ולא רק מטעם רשויות ציבוריות כפי שהוצע במקור.

הערכות סיכון מנבאות:
מערכות בינה מלאכותית המשמשות להערכת או חיזוי סיכון של אדם לבצע עבירה פלילית, בהתבסס על פרופילים אישיים או הערכת מאפייני אישיות בלבד.

מערכות הסקת רגשות:
מערכות בינה מלאכותית המיועדות להסקת רגשות של אדם בסביבת עבודה או מוסדות חינוך.

מערכות סיווג ביומטרי:
מערכות סיווג ביומטרי המסווגות אנשים פרטיים על פי נתוניהם הביומטריים, לצורך הסקת מאפיינים כגון גזע, דעות פוליטיות, אמונות דתיות או פילוסופיות או נטייה מינית.

מערכות שמנצלות פגיעויות:
מערכות בינה מלאכותית המנצלות פגיעויות של אדם או קבוצה, כגון גיל, מוגבלות או מצב חברתי-כלכלי, לצורך עיוות התנהגותם באופן שעלול לגרום נזק משמעותי.

טכניקות סאבלימינליות ומניפולטיביות:
מערכות בינה מלאכותית המשתמשות בטכניקות סאבלימינליות, או בטכניקות מניפולטיביות ומטעות במכוון. מטרתן או תוצאתן היא עיוות משמעותי של התנהגותו של אדם או קבוצת אנשים, באופן הפוגע ביכולתם לקבל החלטות מושכלות, ומוביל לקבלת החלטות שלא היו מתקבלות אחרת, תוך גרימת נזק משמעותי לאדם או לקבוצה.

מאגרי זיהוי פנים:
מערכות בינה מלאכותית המשמשות ליצירה או הרחבה של מאגרי זיהוי פנים באמצעות איסוף בלתי ממוקד של תמונות פנים מהרשת או צילומי מצלמות אבטחה .(CCTV)

מערכות זיהוי ביומטרי בזמן אמת:
שימוש במערכות זיהוי ביומטרי בזמן אמת במרחבים ציבוריים לצורכי אכיפת חוק, למעט במקרים בהם השימוש חיוני לצרכים שהוגדרו בחוק.

אי עמידה בהוראות החוק עלולה להוביל להטלת קנסות מנהליים של עד 35 מיליון אירו, או 7% מההכנסות השנתיות הכוללות של החברה, הגבוה מביניהם. כמו כן, הפרת התקנות עשויה לגרום להפסד גישה לשוק האירופי, פגיעה במוניטין, חשיפה לתביעות משפטיות והפסד הזדמנויות עסקיות והשקעות.

 

פסיקה

רער"צ (ירושלים) 46608-07-24  עדנאן חמדאן נ' המוסד לביטוח לאומי – "הזיות" של בינה מלאכותית

בפסק הדין דן בית המשפט בבקשת רשות ערעור שהגיש עדנאן חמדאן על החלטת רשם ההוצאה לפועל, שדחתה את בקשתו לסגור תיק הוצאה לפועל שנפתח נגדו על ידי המוסד לביטוח לאומי לצורך גביית חוב בגין דמי מזונות. לענייננו, התברר כי עורך דינו של חמדאן צירף לבקשתו פסקי דין שלא קיימים במציאות. לטענת עורך דינו הוא הסתמך על מאגר משפטי מקוון שמהווה מקור מידע מקובל ונפוץ בקרב עורכי דין, ולא הייתה לו כוונה להטעות את בית המשפט. המעשה גרר ביקורת מצד בית המשפט והטלת הוצאות על המבקש בסך 1,000 ש"ח לטובת המדינה.

האמור מחדד את תופעה המוכרת כהזיות של בינה מלאכותית (Hallucinations)–  תופעת ה-Hallucination מתארת מצב בו מערכות בינה מלאכותית מייצרות תוכן שגוי, מומצא או לא רלוונטי להקשר, בין אם מדובר בטקסט, תמונות או תוכן אחר. התופעה, המתבטאת בהמצאת עובדות לא קיימות או יצירת קשרים שגויים בין פיסות מידע, פוגעת במהימנות המערכות ובאמון המשתמשים בהן, ומהווה אתגר משמעותי במיוחד כאשר מדובר ביישומים קריטיים כמו לדוגמא בתחום המשפט או בתחום הפיננסי, הבנויים על אמון, שם טעויות עלולות להוביל להשלכות כבדות משקל. צמצום תופעה זו והגברת אמינות התוצרים מהווים אתגר מרכזי בפיתוח מערכות בינה מלאכותית גנרטיבית מהימנות.

 

תא (חי') 41416-12-23  ל' ח' ס' נ' כלל חברה לביטוח בע"מ  – ניתוח תיעוד רפואי שנוצר באמצעות בינה מלאכותית

החלטה זו נוגעת לבקשה שהגישה התובעת, ל' ח' ס', בתביעה נגד חברות ביטוח בגין נזקי גוף בעקבות תאונות דרכים. התובעת דרשה שבית המשפט יורה למומחה האורתופדי הממונה להתעלם ממסמך רפואי שנשלח אליו, שהוכן באמצעות תוכנת בינה מלאכותית (AI) . המסמך, שנקרא "סיכום תביעת נזקי גוף", כלל ניתוח תיעוד רפואי של התובעת, אך התובעת טענה כי נעשו בו מניפולציות במידע הרפואי כדי להתאימו לדרישות הנתבעת. היא ציינה את הסיכון שהבינה המלאכותית הטתה את הנתונים בצורה שיכולה להשפיע על האובייקטיביות של המומחה .הנתבעת טענה כי המטרה של המסמך הייתה לסייע למומחה ולא להטעות אותו, אך בית המשפט קבע כי יש חשש אמיתי שהמסמך שצורף, שנערך בעזרת AI יפגע בשיקול דעת המומחה.

מדובר לפיכך במסמך שנוצר על ידי בינה מלאכותית, סוגיה אליה, טרם נדרשו בתי המשפט בהקשר של המצאת מסמכים למומחים מטעם בית המשפט על פי תקנות המומחים.

ביהמ"ש התייחס לקשיים בשימוש בבינה מלאכותית:

“אין ספק כי בטכנולוגיה זו טמונים יתרונות עצומים, אך גם סיכונים רבים, לרבות בתחום האתי.

אכן, שימוש ב – AI לצורך עריכת כתבי-טענות המוגשים לבית המשפט (באמצעות פלטפורמת ChatGPT, למשל) עלול להתגלות כבעייתי ביותר, במיוחד כאשר נעשה ללא בדיקה מכלי ראשון של הנתונים והציטוטים המובאים במסמך: כך, למשל, במקרה מחודש יוני 2023 של עורך דין במדינת ניו יורק, שהשתמש בפלטפורמה האמורה בכתב טענות שהגיש לבית המשפט, מבלי שאימת את נכונות המידע המפורט בו; פסקי הדין אליהם הפנה התגלו כמומצאים על ידי הפלטפורמה; או במקרה דומה מחודש נובמבר 2023, בו הושעה עורך דין במדינת קולורדו לשנה, לאחר שהשתמש ב – ChatGPT על מנת לנסח כתבי טענות, וכלל בהם ציטוטי פסיקה מהליכים משפטיים שלא היו ולא נבראו, מבלי שטרח לוודא ולאמת את המידע".

נפסק, כי מסמך מבוסס AI, מעלה חשש להטיות מוכוונות ויש בהן כדי לפגום, ולו באופן בלתי מודע, בעצמאות שיקול דעתו של המומחה ובאובייקטיביות שלו.

לפיכך, על המומחה להתעלם מהמסמך זה ולרבות מהמסמכים הרפואיים  גולמיים שבהם סומנו והודגשו מילות מפתח בצבע, וללו צריכים להימסר לו ללא שום תוספות או עריכות.