עידן הבינה

הקדמה

בחודשים האחרונים יישומי בינה מלאכותית (AI) על מופעיה השונים החלו להגיח ממעבדות הפיתוח והונגשו לציבור הרחב. לדידו של מחבר מאמר זה, מדובר בלא פחות מראשיתו של עידן חדש, שווה ערך ואף יותר מגילוי האש. לאור זאת, על הציבור להבין בדיוק במה מדובר, אחרת ההשלכות תהינה חמורות לא פחות משריפה.

מן המחקרים והתובנות מיישום בינה מלאכותית בפועל, אין צל צילו של ספק כי מדובר בשינוי אשר יעצים את האנושות. יחד עם זאת, התברר גם כי הדרך לבינה מלאכותית מטיבה רצופה אתגרים משמעותיים, כגון: איכות נתונים, הטיה, יכולת הסבר, אבטחת מידע, שיקולים אתיים פגיעה במשרות ועוד. 

כבר כיום ישנם פתרונות לאתגרים אלה וככל שהמפתחים יפעלו בכדי ליישמם, כך הבינה המלאכותית תהפוך ליעילה ואמינה יותר. במאמר זה תוצגנה בקצרה חלק מן הסוגיות אשר יש לתת עליהן את הדעת בפיתוח ושימוש במערכות בינה מלאכותית.

אסדרה (רגולציה)

ככל שהבינה המלאכותית תהיה נפוצה יותר, כך יגבר הצורך באסדרה ייעודית וברורה אשר תנחה את הפיתוח והשימוש בה. חוקי בינה מלאכותית יסייעו בשמירה על תכנון מערכות מועילות לחברה. קביעת קווים מנחים וסטנדרטים ברורים לפיתוח ושימוש במערכות בינה מלאכותית, כמו גם ניטור ואכיפת ציות להנחיות אלו, חיוניים להבטחת שימוש אחראי בבינה מלאכותית. מערכות בינה מלאכותית חייבות לקבל החלטות הוגנות ונטולות משוא פנים. על מנת שזו תהיה המגמה, על המאסדרים במדינות השונות ליצור מנגנוני דין וחשבון כדי להבטיח כי להחלטות שמתקבלות על ידי מערכות בינה מלאכותיות תהיה כתובת הנושאת באחריות.

איתנות ואמינות

מערכות בינה מלאכותית חייבות לעמוד במשימה ולספק תוצרים אמינים. איתנות מתייחסת ליכולתה של המערכת להמשיך לפעול היטב מול תנאים משתנים ובלתי צפויים. אמינות מתייחסת לדרגה שבה המערכת מפיקה תוצאות עקביות ומדויקות. לסוגיות אלה מספר לא מבוטל של פתרונות, כגון שינויים בנתוני קלט, איתור כשלים בזמן אמת, מערכות בקרה חיצוניות ועוד.

מוסר

אין זה סוד כי למערכות בינה מלאכותית השפעה גוברת על הציבור ולכן קיימת חשיבות רבה כי האלגוריתמיקה תתן את הדעת לעקרונות מוסר ואתיקה. חלק מן הפתרונות המוצעים כיום נשענים על תוצרי בינה מלאכותית הניתנים להסבר, יצירת קווים מנחים אתיים לפיתוח ושימוש במערכות בינה מלאכותית, שיתוף קבוצות שונות של אנשים בפיתוח, בדיקה וחקר השפעת בינה מלאכותית על החברה בכלל וציבורים שונים בחברה. כך גם מוצע לפתח מנגנוני אחריות אשר יבטיחו כי מפתחי ומשתמשי מערכות בינה מלאכותיות יהיו אחראים לתוצרי המערכת.

איכות נתונים

נתונים באיכות ירודה עלולים להוביל לתוצאות שגויות ולכך השלכות הרות גורל במגוון תחומים. כך למשל נתונים לא מדויקים שהוזנו למערכת בינה מלאכותית בתחום הבריאות, יכולים להוביל לאבחנות ולתוכניות טיפול שגויות ומסכנות חיים. כדי להתמודד עם אתגר זה, הוצעו לא מעט פתרונות המתבססים על מערכות עזר לטיוב נתונים באמצעות מחיקת נתוני סרק ונתונים שחוזרים על עצמם.

הטיה

עם השנים התברר כי מערכות בינה מלאכותית מציגות אבחנות, מסקנות ותוצרים מוטים, בין אם כתוצאה משימוש במערך נתונים מוטה, או שהמבנה האלגוריתמי עצמו נשען על הטיות מובנות פרי גישת מפתחי המערכת. שימוש בבינה מלאכותית מבלי לתת את הדעת לסיכוני ההטיה יוביל ליחס לא הוגן לקבוצות מסוימות או לתחזיות לא מדויקות. לפתרון בעיה זו עלו מגוון הצעות כגון שימוש במערכי נתונים מגוונים המייצגים נתונים דמוגרפיים שונים ובניית אלגוריתמים “שקופים” אשר יסייעו לזיהוי הטיות במערכת.

הסבר

לבני האדם אין את היכולת להבין כיצד אלגוריתמים מקבלים החלטות ולכך חשיבות במיוחד כאשר להחלטות השלכות הרות גורל. בתחומים כמו בריאות, שינוע אוטונומי וכיו”ב, קריטי להבין כיצד אלגוריתמי בינה מלאכותית מגיעים לתוצאה. כדי להתמודד עם האתגר הזה, אחת הדרישות כי ניתן יהיה להסביר את התוצאה שהתקבלה ממערכת בינה מלאכותית. גם הפעם מצביעים החוקרים על הצורך בפיתוח אלגוריתמים “שקופים” אשר יספקו תובנות לגבי תהליך קבלת ההחלטות של אלגוריתמים ובכך יגבר האמון במערכת.

ממשק אדם – מכונה

המחקרים מלמדים כי מערכות בינה מלאכותית יעילות במיוחד כאשר הן מתוכננות להגביר את היכולות האנושיות, במקום להחליף אותן. מתברר כי בני אדם ומערכות בינה מלאכותיות משלימים את החוזקות של משנהו והתוצאה – עבודה יעילה ואפקטיבית יותר באופן מובהק. בנסיבות אלה, פיתוח ממשקים ידידותיים יותר למשתמש, המאפשרים שיתוף פעולה אורגני יותר בין האדם למכונה, יובילו לתוצאה מטיבה יותר עם הציבור הרחב. כך גם קריטי לערב כמה שיותר בני אדם בפיתוח ובדיקת מערכות בינה מלאכותית כדי להבטיח שהן מותאמות לצרכים ולהעדפות אנושיות.

שילוב מערכות

שילוב מערכות בינה מלאכותיות שונות יהיה מחויב המציאות, במיוחד כאשר לכל מערכת תהיה התמחות בתחום מסוים. הקושי בשילוב המערכות יכול לנבוע מהבדלים בשפות תכנות, אופן אחסון הנתונים, שפת הנתונים ועוד. אחד מן הפתרונות המוצעים, לפתח תקינה סטנדרטית של נתונים ופרוטוקולי תקשורת יעודיים למערכות בינה מלאכותית. פתרון נוסף, להשתמש בתוכנות ובפלטפורמות קוד פתוח.

אבטחה

חולשות אבטחה במערכות בינה מלאכותית תאפשר לגורמים זדוניים לקבל גישה לנתוני מידע סודיים ופרטיים. עובדה זו מחייבת את הצורך בפיתוח מערכות בינה מלאכותית עם תכונות אבטחה חזקות במיוחד, ערוצי תקשורת מוצפנים ומערכות ניטור אשר יאפשרו זיהוי פרצות אבטחה.

משרות

מטבע הדברים בינה מלאכותית תחליף פעילות שהתבצעה עד כה על-ידי בני אדם. זהו אתגר משמעותי שיש לטפל בו כדי להבטיח שהיתרונות של בינה מלאכותית יתחלקו באופן שוויוני. כדי להתמודד עם אתגר זה, קיימות לא מעט עבודות הדורשות יותר כישורים אנושיים אשר בינה מלאכותית אינה יכולה להחליף, לפחות בעתיד הנראה לעין. מוצע גם להשקיע בטכנולוגיות חדשות שיספקו הזדמנויות עבודה חדשות ולעצב מערכות בינה מלאכותית המגבירות את היכולות האנושיות במקום להחליף אותן.

השפעה סביבתית

ככל שמערכות בינה מלאכותי יהפכו לשכיחות, חובה להתייחס להשפעתן על הסביבה. מערכות בינה מלאכותית דורשות הרבה מאוד כח מחשוב ומשכך זוללות אנרגיה ידועות ובעלות טביעת רגל פחמנית משמעותית. הפתרונות המוצעים, פיתוח מערכות בינה מלאכותית חסכוניות באנרגיה והפעלתן באמצעות מקורות אנרגיה מתחדשים.

סיכום

לבינה מלאכותית תהיה השפעה, חיובית ושלילית, עצומה על החברה. לכן, חשוב עד מאוד לערוך כמה שיותר מחקרים בכדי להבין את ההשפעות השונות של בינה מלאכותית על האנושות ולוודא כי מערכות בינה מלאכותית מפותחות ונעשה בהן שימוש בצורה שתועיל לכל החברה ולא לציבור מסויים. כמו כן, על המאסדר לתת את הדעת על ההשלכות וליצור, באופן מהיר ככל שניתן, מערכת חוקים, תקנות ונהלים אשר יתנו מענה לסוגיות הבעייתיות אשר חלקן פורט במאמר זה.

טראמפ

פרטיות בעידן טראמפ

הרטוריקה הייחודית בה עשה טראמפ שימוש במהלך המירוץ לנשיאות חשפה את תכניותיו מרחיקות הלכת ליצירת מאגרי מידע לצורך מעקב אחר

פרטיות תלמידים בלמידה מקוונת מרחוק

פרטיות תלמידים בלמידה מקוונת מרחוק

למידה מקוונת מרחוק חושפת תלמידים לסיכוני פרטיות משמעותיים, לרבות חשיפת מידע אישי ודליפות מידע. הרשות להגנת הפרטיות מפרסמת הנחיות להגנה מוגברת על פרטיות התלמידים.