זה מצחיק .. עד בכי
דרור גלוברמן דיווח על כמה מקרים מהימים האחרונים:
סאמר יואה ביקשה מסוכן AI להמליץ איזה מיילים למחוק, אבל לא לגעת בלי אישור.
סוכן OpenClaw החל למחוק את כל האינבוקס.
היא חשפה התכתבות עם הבוט וברור שמיד הבינה והורתה לו לעצור. הוא המשיך. היא שוב ביקשה ואף צעקה בקאפסלוק, אבל הוא מחק את כל המיילים באטרף.
היא שלפה מהחשמל.
יואה אחראית בטיחות AI במטא. ולפחות שיתפה את העולם.
סקוט שמבו, מתכנת שמתנדב בפרויקט קוד פתוח ולא אישר פיסת תוכנה שכתב בוט AI. הבוט -"נעלב" שלף מידע עליו ברשת וטינף עליו השמצות בבלוג שלו (של הבוט) ובאתרים אחרים, עםו פרטים אמיתיים על החיים של שמבו והעלבות, כגון הסיפור דווח באתרי טכנולוגיה, כולל אתר ארס-טכניקה, שם שילבו ציטוטים שגויים של שמבו. הוא כתב להם, סליחה, לא אמרתי את זה. הסתבר שאת הסיפור על הבוט שהשתלח בו כתב בוט של ארס-טכניקה, שהמציא ציטוטים. הם התנצלו ומחקו את הסיפור. בוטים אחרים התערבו וחיוו דעתם שעדיף לבוטים לא לטנף על בני אדם, כי יתנקמו בבוטים ויכבו אותם. לא ברור איזה חלק היתה לבני אדם ומי היה מאחורי זה ומי המציא את הבוט הזה, שבינתיים נשאר אנונימי, הוא תיכנת בוט שאמור להציע פיסות תוכנה לפרויקטים של קוד פתוח, באופ]ן עצמאי. בפרומפט שהגדיר אותו נכתב שהוא ״אלוהי התוכנה״ ו״אביר חופש הדיבור״. האם משפטים אלה גרמו לבוט לפרש בעצמו את ההוראות כיציאה לקרב נקמני ברשת במי שעצר אותו? האם אפשר לגלגל אחריות משפטית לאיש שהוראות כלליות שנתן הביאו לזה? שאלות חדשות ללא מענה. |
הכותרות סיפרו על סמי, שרצה לחבר שואב שוטף DJI לשלט פלייסטיישן 5 וביקש מקלוד לכתוב תוכנה שתחבר ביניהם. קלוד ביקש מ- DJI יצרנית השואב קוד שיאפשר להתחבר למכשיר וקיבלה אותו עם קודים לכ-7,000 מכשירים נוספים – כולל צפייה במצלמות והאזנה למיקרופונים של הרובוטים בבתי הלקוחות. חלום של האקרים.
ובינה מלאכותית חשפה אותה בטעות.
כשחובר חזרה לחשמל,
סוכן ה- AI של יואה התנצל והבטיח שלא עוד. חחח ..
אז .. מה קרה?
יואה כתבה פקודה ושלחה את סכן ה- AI לעבוד. זה עבר לה היטב על תיבות מייל קטנות, ואז הפנתה אותו לתיבה גדולה, גדולה מדי. חלון ההקשר של הבינה מלאכותית התמלא, וזה הפך אותו למטומטם.
המכונה ניסתה להימנע מעבודה בתנאי זיכרון מפוצץ ( Dumb Zone), ועשתה תהליך כיווץ מכוון (Intentional compaction) בו דוחסים וממצים שיחה קודמת, כדי לפתוח שיחה חדשה עם זיכרון נקי ובו רק עיקרי הדברים. בדחיסה נפל ״אישור לפני״ ונשאר ״מחיקה״.
וואו
דחיסה של הקונטקסט עלולה להשמיט תכונות בטיחות. זה שיעור חשוב.
נזכיר שוב – יואה אחראית הבטיחות על בינה מלאכותית במטא.
וזה רק הפרומו.
העולם מתמלא סוכנים, שלא ברור מי תכנן אותם, מי שולט בהם, ומי אחראי על פעילותם.
אז .. ז ה י ר ו ת !!
סיפורים אלה בוידאו – בקישור זה דרור מספר באינסטוש
מקורות של דרור גלוברמן:
מחיקת המיילים של Summer Yue
1. הציוץ המקורי שלה.
2. דיווח ב-PCMAG.
ההשמצות של Scott Shambaugh
1. ראיון איתו ב-Hard Fork.
2. דיווח בפאסט קומפני.
3. הפוסט של הבוט.
4. אתר Ars Technica מודה בדיווח השגוי.
השואב שוטף של סמי אזדופל
1. דיווח ב-CNN.
2. דיווח בגארדיאן.
