המפגש בבית הלבן
נציגים מחברות כמו אמזון, מטא, OpenAI, מיקרוסופט, גוגל, Anthropic (שקיבלה גם השקעה מגוגל) ו-Inflection הגיעו לבית הלבן לדיון בנושא הדרכים שבהן הן מפתחות כלי בינה מלאכותית, והצורך בפיתוח הכלים הללו בזהירות.
החברות התחייבו לסיוע בבחינת החולשות של המערכות שלהן על ידי צד שלישי, לצד השקעה מורחבת במחקר ובבטיחות של כלי ה-AI שהן מפתחות ומתכננות לשחרר לציבור הרחב. החברות, כך דווח בכלי תקשורת בארה"ב, כולן הסכימו לדרישות הללו מרצונן.
ההתחייבויות של החברות
החברות התחייבו להשקיע באבטחה של הכללים הללו, לבצע מחקרים כדי לצמצם את ההטייה המובנית (bias) בכלי AI וליצור מערכת חדשה, שתסמן בבירור תכנים שנוצרו על ידי AI.
החברות התחייבו לסיוע בבחינת החולשות של המערכות שלהן על ידי צד שלישי, לצד השקעה מורחבת במחקר ובבטיחות של כלי ה-AI שהן מפתחות ומתכננות לשחרר לציבור הרחב. החברות, כך דווח בכלי תקשורת בארה"ב, כולן הסכימו לדרישות הללו מרצונן.
האתגרים שעומדים בפני החברות
אף על פי שהחברות התחייבו להקדיש משאבים לבטיחות ולמחקר, עדיין לא ברור מתי בפועל אלו יגיעו לכלי ה-AI של החברות. בנוסף, בשום שלב לא דובר על מערכת אחודה כלשהי לבחינת ההתחייבויות הללו או לאיזשהו מנגנון אכיפה של ההתחייבויות הללו מצד הממשל האמריקאי.
אחד הנושאים הכי חשובים שעלו בשיחה הוא סימון תכנים שג'ונרטו על ידי AI (כלומר watermarking), וגם בנושא הזה לא הוצגה עמדה רחבה כלשהי או הכרזה על שיתוף פעולה בין החברות כדי לייצר מערכת שתוכל לסמן בקלות תכנים מסוג זה.
סיכום
המפגש בבית הלבן הציג את המאמצים של החברות המובילות בתחום האיי.איי להבטיח את בטיחות הציבור ולמנוע מכלי האיי.איי להשתלט על העולם. עם זאת, עדיין יש הרבה אתגרים שעומדים בפני החברות, ועדיין לא ברור איך ומתי ההתחייבויות הללו ייושמו בפועל.
ביידן על הבטחות נציגי חברות ה-AI:
