שופט נדהם: המשטרה ציטטה חוק פיקטיבי שיצר ChatGPT
מקרה מביך וחריג אירע לאחרונה, שעה שמפלג אכיפה כלכלית במחוז חוף של משטרת ישראל הגיש לבית משפט השלום בחדרה כתב טענות שהסתמך על טיעונים מ–ChatGPT כולל ציטוט של סעיף חוק שאינו קיים במציאות.
התקרית התרחשה במסגרת בקשה של אדם לקבל חזרה את הטלפון הנייד שלו, בסעיף 6 לבקשה נטען "שלפי סעיף 23 (א) לחוק סדר הדין הפלילי (סמכויות אכיפה, חיפוש ותפיסה במחשב) תשנ"ו-1996, מחשב מוסדי הוא מחשב בבעלות מוסד ציבורי, רשות שלטונית, תאגיד או גוף שמשרת את הציבור, והגישה אליו אינה מוגבלת למשתמש אחד בלבד, אלא הוא משמש מספר אנשים לצרכים מוסדיים, והטלפון של המבקש כאן לא עונה על הגדרה זו".
אלא שמדובר בחוק שלא קיים בספר החוקים של מדינת ישראל.
השופט אהוד קפלן הגיב בחריפות להתנהלות המשטרה: "ובכן, אותו חוק לא קיים בספר החוקים של מדינת ישראל, הוא גם לא היה קיים בדמיונו של אף אדם עד כה, כי חיפוש מילותיו באינטרנט באמצעות מנויע חיפוש כמו גוגל, לא מעלה אף תוצאה תואמת".
השופט הדגיש כי החוק "נוצר על ידי בינה מלאכותית" והוסיף: "ואם חשבתי שראיתי הכל ב-30 השנים שאני על כס השיפוט, כנראה שטעיתי". השופט גם מתח ביקורת על המשטרה על כך שלא הודיעה על הטעות לפני הדיון, וכתב כי נציגות המדינה "היו צריכות להודיע על כך לפני הדיון כדי לא להתבזות יותר ממה שכבר התבזו".
ממשטרת ישראל הודו כי "המענה נכתב בניגוד למקובל" והודיעו כי מפקד היחידה הורה לערוך תחקיר ולפעול למניעת הישנות מקרים דומים בעתיד. המקרה מהווה דוגמה בולטת לסכנות שבשימוש לא מבוקר בבינה מלאכותית במערכת המשפט.
(ה"ת 26853-02-25 יל"פ מרחב מנשה ואח' נ' מחאגנה.)
