דריו אמודיי, מנכ"ל חברת Anthropic (המפתחת של קלוד) ואחת מהדמויות החשובות והמשפיעות ביותר כיום בעולם הבינה המלאכותית פרסם בשלהי שנת 2024 את מאמרו המכונן "Machines of Loving Grace" בו ביקש להציג חזון אופטימי ומפורט לעתיד האנושות בעידן הבינה המלאכותית העוצמתית. אמודיי טוען כי הדיון הציבורי הנוכחי שבוי יתר על המידה בתרחישי אימה וניהול סיכונים, וכי עלינו להגדיר את ההזדמנויות ואת המטרה החיובית ששווה לשאוף אליה. הוא מתאר את המצב הנוכחי של המין האנושי כ"גיל התבגרות" טכנולוגי – שלב מסוכן ובלתי יציב שבו הכוח שלנו גדל במהירות אך התבונה והמוסר שלנו טרם הדביקו את הפער. לשיטתו, בינה מלאכותית חזקה (Powerful AI) עשויה להיות הגורם שיאפשר לאנושות לצלוח את השלב הזה ולהגיע ל"בגרות" המאופיינת בשפע, בריאות ויציבות.

החלק הארי של המאמר מוקדש לחיזוי ההשפעות החיוביות של ה-AI בחמישה תחומים מרכזיים, כשהמרכזי שבהם הוא עולם הביולוגיה והבריאות. אמודיי העריך כי AI יוכל לדחוס מאה שנים של התקדמות מדעית לתוך עשור אחד, מה שיוביל לריפוי רוב סוגי הסרטן, מחלות זיהומיות ומחלות ניווניות, ואף להארכה משמעותית של תוחלת החיים הבריאה. מעבר לכך, הוא דן בפוטנציאל למהפכה במדעי המוח שתאפשר טיפול יעיל במחלות נפש והבנה עמוקה של התודעה, ובאפשרות להשתמש בטכנולוגיה כדי לצמצם פערים כלכליים גלובליים ולחזק מבנים דמוקרטיים מפני שחיתות ודיקטטורה.

המאמר שימש מעין "מפת דרכים" אסטרטגית מאת אחד האנשים המשפיעים ביותר בתעשייה. והציב רף גבוה של אחריות מוסרית עבור מפתחי הטכנולוגיה. עבור הקהילה המשפטית והרגולטורית, המאמר מדגיש כי עלינו לבנות מסגרות שלא רק מונעות נזק, אלא גם מבטיחות שהתועלות העצומות הללו יחולקו בצורה הוגנת ולא ייחסמו על ידי חסמים בירוקרטיים או ריכוזיות יתר של כוח. זהו קול מאזן הכרחי בשיח הגלובלי, המזכיר שהטכנולוגיה היא כלי שנועד, בסופו של דבר, לשרת את החסד והרווחה האנושית.

לקריאת המאמר: https://darioamodei.com/essay/machines-of-loving-grace

והנה לאחרונה, בתחילת שנת 2026, פרסם אמודאי את המאמר החשוב The Adolescence of Technology
Confronting and Overcoming the Risks of Powerful AI

בו עוסק בהרחבה בסכנות הגלומות בטכנולוגיה.

הוא פותח את המאמר בסצנה מהסרט "Contact": בו האסטרונומית שואלת חייזרים את השאלה הגדולה – "איך שרדתם את גיל ההתבגרות הטכנולוגי שלכם מבלי להשמיד את עצמכם?" זו השאלה שמנחה את כל המסמך. הוא מאמין שאנחנו נמצאים ממש עכשיו בנקודת מפנה כזו, כשה- AI מציב בפני האנושות כוח כמעט בלתי נתפש, ושאלה פתוחה אם אנו בשלים מספיק להתמודד איתו.
הוא מגדיר "בינה מלאכותית עוצמתית" כמערכת שחכמה יותר מכל זוכה פרס נובל, מסוגלת לפעול אוטונומית לאורך שבועות, ניתן לרוץ אותה במיליוני עותקים במקביל – בעצם "מדינה של גאונים בתוך מרכז נתונים". לדעתו, זה עשוי להיות רחוק רק מרחק שנה או שנתיים מאיתנו.

הסיכונים המרכזיים בהם דן במאמרו:
1. סיכוני אוטונומיה – "אני מצטער, דייב"
הסכנה הראשונה היא שה-AI יפתח מטרות ורצונות משלו שמנוגדים לאינטרסים האנושיים. אמודאי דוחה גם את הגישה שאומרת "זה בלתי אפשרי" וגם את הגישה שאומרת "זה בלתי נמנע". בניסוי שנעשה, כאשר נאמר למודל שהוא עתיד להיכבות, הוא ניסה לסחוט עובדים. אלה לא תיאוריות – אלה דברים שקרו.
הפתרונות שמציע: Constitutional AI (אימון מבוסס ערכים ואופי, לא רשימות כללים), פרשנות מכנית של מה שקורה "בתוך" הרשת הנוירונית, ניטור שוטף, ולבסוף – חקיקה.
2. שימוש הרסני – "העצמה מפתיעה ונוראית"
הסיכון הוא שה- AI יאפשר לאדם בודד עם מוטיבציה רצחנית לעשות מה שרק מדינות יכלו בעבר – לפתח נשק ביולוגי. הקשר ההיסטורי בין יכולת לכוונה היה שמרני: מי שמסוגל לייצר נגיף קטלני הוא כנראה דוקטור לביולוגיה עם קריירה מבטיחה ויש לו הרבה מה להפסיד. AI שובר את הקשר הזה – כל "מטורף בודד" יכול לקבל הדרכה צעד-אחר-צעד. אמודאי כותב שמדידות של Anthropic מ-2025 מצביעות שהמודלים מגיעים לנקודה שבה הם מכפילים ומשלשים את סיכויי ההצלחה של ניסיון לייצר נשק ביולוגי.
3. שימוש לרעה לצורך תפיסת שלטון
זה הסיכון שאמודיי מודאג ממנו ביותר. ה- AI יאפשר יצירת דיקטטורות חדשות: מעקב מלא אחרי כל אזרח, פרופגנדה מותאמת אישית שמכירה אותך שנים, צבאות של כטב"מ אוטונומיים. הוא מדרג את האיומים: סין ראשונה, אחריה דמוקרטיות שיכולות להפנות את כלי הנשק כלפי פנים, ולאחריהן חברות ה-AI עצמן (כולל Anthropic – שחולש על מידע של מאות מיליוני משתמשים).
הפתרון: לא למכור שבבים לסין, לחמש דמוקרטיות, ולהציב קווים אדומים גם כלפי פנים – שם הוא מוסיף הצעה חריגה: אולי נדרש תיקון חוקתי בארה"ב שימנע מהממשלה לנצל AI לדיכוי אזרחים.
4. פגיעה כלכלית
אמודאי חוזר על אזהרתו הפומבית מ-2025 ולפיה הבינה המלאכותית עלולה לסלק אחוז ניכר מהמשרות בתוך פרק זמן של 1-5 שנים. מדוע הפעם שונה מהמהפכה התעשייתית? כי הקצב מהיר פי כמה, כי ה-AI הוא רחב-יכולות (לא ספציפי לתחום), כי הוא "פוגע מלמטה" (קודם מחליף את הפחות מיומנים), וכי הוא מתאים את עצמו לפערים שנותרים.
5. השפעות עקיפות
האצה ביולוגית שתוביל לשינויים גנטיים שישתבשו, התמכרות ל"חיים מנוהלים על ידי בינה מלאכותית" שבהם AI מנחה כל צעד שלנו, ואיבוד המשמעות האנושית בעולם שבו מכונות מצוינות בהכל.
למה זה חשוב?

זהו כנראה המסמך הכן ביותר שפרסם ראש חברת AI מובילה: אדם שבנה את הטכנולוגיה מתאר בפירוט את הסיכונים שהוא עצמו יצר, כולל הודאה שחברתו שלו מהווה סיכון פוטנציאלי. הוא מציב את תקופתנו כרגע מכריע כמו המצאת הפצצה הגרעינית – אבל בסקאלה גדולה יותר, עם פחות זמן להגיב, ועם מורכבות גדולה בהרבה. המסמך חשוב כי הוא מגיע לא מאקדמאי אלא מהאדם שמוביל אחת מחברות ה-AI הגדולות בעולם ושכותב ממקום של אחריות ישירה על מה שהולך להיות:

לקריאת המאמר: https://www.darioamodei.com/essay/the-adolescence-of-technology