בין חישוב להמצאה: דו-שיח וכתבה על גבולות הבינה המלאכותית בסיוע למחקר

נכתב ע"י פרופ' לוין

נכתב על ידי פרופ' יוסי לוין וד"ר איגור סלגניק

שלמה הנבון: איש תם, נתחיל באמירה חדה: שום מערכת שיחה מבוססת מודל שפה גדול אינה “חוקרת” במובן האנושי. היא יכולה לעבד טקסט, להציע ניסוחים, להדגים לוגיקה, ולעזור לך לארגן מחשבה; אבל היא לא מקור נתונים, לא מקור ראיות, ולא תחליף לבדיקת עובדות, מקורות, וניתוח שיטתי על ידך.

איש תם: אבל היא נשמעת לפעמים כמו חוקר. היא עונה מהר, עם ביטחון, ועם המון פרטים. אז מה בעצם ההבדל בין “נשמע חוקר” לבין “חוקר”?

שלמה הנבון: ההבדל הוא אחריות ומגע עם המציאות. חוקר מחויב להראות: מה הנתון, מאיפה הוא, איך נמדד, מה איכות המדידה, איך נותחו התוצאות, מה גבולות ההסקה, ואיך כל זה ניתן לשחזור. מודל שפה גדול יכול להפיק טקסט משכנע גם כשאין לו בסיס נתונים אמיתי מאחוריו, או כשהבסיס חלקי. הוא יכול גם “להשלים” חורים בצורה יפה מבחינה לשונית אך לא נכונה עובדתית. זו לא רשלנות מוסרית מכוונת אלא זה מנגנון יצירה סטטיסטי של משפטים סבירים.

איש תם: אז כל המערכות אותו דבר? או שיש הבדל ביניהן?

שלמה הנבון: יש הבדלים מעשיים. יש מערכות שיכולות להריץ קוד בסביבה מוגבלת, לנתח קבצים שאתה מעלה, לבצע סטטיסטיקה, ולתת פלטים כמו טבלאות או גרפים. אחרות לא. יש מערכות שעושות שילוב של “חיפוש” במאגרים פתוחים, כלומר שליפה של מקורות חיצוניים ואז ניסוח תשובה על בסיסם, ויש כאלה שמוגבלות למה שנמצא “בזיכרון האימון”. אבל שים לב: גם כשיש חיפוש, עדיין האחריות לאימות נשארת אצלך.

איש תם: ואם אני רוצה שהיא תביא לי נתונים ממאגר מדעי רציני או כתב עת בתשלום, למה שלא תוכל?

שלמה הנבון: כי ברוב המצבים אין לה הרשאות, אין לה גם כניסה אישית לחשבונות שלך, ואין לה מנגנון אמין שמבטיח לך שהיא באמת “קראה” את המאמר המקורי ולא רק ניחשה. גם כשמערכות מתחברות למקורות פתוחים, זה לא הופך אותן לבעלות גישה חוקית או מלאה למאגרים בתשלום. בפועל: אם אתה צריך מאמר, אתה מוריד אותו בערוצים החוקיים, קורא בעצמך, ואז משתמש במערכת כדי לעזור לך לסכם, להשוות, לנסח, אבל לא להמציא או להניח “כאילו ממש קראה”.

איש תם: ומה לגבי חישובים מתקדמים? שמעתי שמערכות מסוימות “מחשבות” ברמה גבוהה.

שלמה הנבון: נכון, אבל בתנאי שאתה מספק את הנתונים ואת ההקשר. למשל: כאשר אתה תעלה טבלת נתונים, תגדיר מהו המשתנה התלוי, מה המשתנים המסבירים, מה השערת האפס, ואיזה מודל אתה רוצה. אז המערכת יכולה לעזור לכתוב קוד, להריץ רגרסיה, לבדוק הנחות, להציע בדיקות רגישות, ולהפיק טיוטת סעיף שיטות. אבל גם אז: אתה חייב לבדוק שהקוד נכון, שהנחות המודל מתקיימות, ושלא נעשתה שגיאה שקטה. כאן נכנסת הדרישה או רוח הדברים של “מחקר בר־שחזור”: כל תוצאה צריכה להיות ניתנת לשחזור על ידי אדם אחר עם אותם נתונים ואותה מתודולוגיה.

איש תם: אז איפה הסכנה הגדולה? אם היא מחשבת את מה שהעליתי, זה נשמע בטוח יחסית.

קרא עוד »