תורה חדשה מAI תצא • הרב ישראל מעטוף

הרב ישראל מעטוף, דיין בבית ההוראה "משה זאב" נחלת הר חב"ד וראש מחלקת ממונות במכון הלכה חב"ד

התורה נמשלה לחלב, וזהו אחד הטעמים לכך שנוהגים לאכול מאכלי חלב בחג השבועות, מנהג שצבר תאוצה רבה בזמננו, עד שמבלי משים הפך לשם נרדף לחג השבועות.

אם נתבונן רגע, הלא התורה נמשלה לשלל דברים: מים, יין, לחם, בשר, שמן, דבש. במה זכה החלב שנבחר לייצג את התורה בחג השבועות?

אחד ההסברים הוא, שעם ישראל נחשבו במתן תורה לקטן שנולד, ומאכלו של התינוק מיומו הראשון הוא חלב. חלב האם הוא המזון והרפואה שלו, ומחזק את גופו וכל איבריו.

לחלב אם בימינו יש תחליפים. אמנם על ה"מטרנה" כתוב שחור על גבי לבן ש"חלב אם הוא המזון הטוב ביותר לתינוק", אבל רבים וטובים משתמשים בתחליפי חלב.

אני רוצה לנצל במה זו כדי להתריע על דבר בעייתי מאוד, שהוא התחליף החדש והנוצץ שהולך וקם ל"דבש וחלב תחת לשונך" – תופעת השאלות בהלכה ל-AI.

מדובר בתופעה חמורה מאוד, שלא כולם מודעים אליה ולסכנות שבה.

דיוק ובינה מלאכותית

אעמוד בשלב הראשון על מידת הדיוק של הבינה המלאכותית בנוגע להלכה, נכון לשעת כתיבת שורות אלו.

ובכן, התשובות שמקבלים מהבינה המלאכותית מרשימות מאוד! מקבלים תשובה מפורטת, מנומקת, עם מקורות ואפילו עם ציטוטים.

וזו הסכנה הגדולה.

נסו בבית להתחקות אחר המקורות והציטוטים ותגלו שרבים מאוד מהם מצוצים מן האצבע לגמרי. הבינה פשוט מכינה ורוקחת מדרשים, גמרות, שיחות של הרבי, סיפורי חסידים, וכל מה שמסתדר טוב עם המסקנה שהגיעה אליה.

אוכל להביא כאן דוגמאות למכביר, אפשר לומר שכל שאלה בהלכה ששאלתי, היו שזורים בתוכה מקורות או ציטוטים שלא היו ולא נבראו.

כדי להמחיש אביא דוגמה אחת:

במהלך דיון "תורני" על חלקו של הגבר בטיפול בילדים, קיבלתי "ציטוט" מתלמוד ירושלמי כתובות פ"ה ה"ז: "אמר רבי חייא, מימיי לא אמרתי לאשתי להאכיל את ילדיי או להלביש אותם"…

דא עקא, שבתלמוד הירושלמי שם לא מופיע דבר וחצי דבר מאותו משפט. כשהערתי לבינה המלאכותית על כך, נעניתי שאכן זו טעות והמקור הוא בתלמוד בבלי יבמות סג ע"א.

כשהערתי שגם שם המשפט אינו קיים, קיבלתי את התשובה שאני שוב צודק וחל בלבול, והמקור הוא במדרש תנאים לחומש דברים.

גם שם יגעתי ולא מצאתי (תאמין…), וכשהסבתי את תשומת לב הרובוט לכך, היתה תשובתו שאכן אין מקור כזה, ושהוא יחפש מקור אחר….

לא אלאה את הקוראים, אבל גם לאחר אזהרות חוזרות ונשנות שיביא לי מקורות מדויקים בלבד, קיבלתי ציטוטים שנבראו באותו רגע, באופן נסי ממש…

אז מה עושים?

קודם כל, מפרסמים לכל מי שרק ניתן, שאין לסמוך בשום פנים ואופן על בינה מלאכותית בנוגע להלכה. לא בנוגע לשאלה "פשוטה" וגם לא כשמקבלים תשובה בהירה, מקצועית ומשכנעת בצירוף טעמים, מקורות וציטוטים.

אמנם, מדובר ב"רב" זמין שלא מכבידים עליו, ונוח להפיל עליו את כל השאלות שלא מעיזים לשאול את הרב האמיתי, אבל "עשה לך רב והסתלק מן הספק" נאמר על רב בשר ודם ולא על "רב דיגיטלי".

שנית, גם אם משתמשים בבינה המלאכותית לשם חיפוש מקורות בלבד, יש לעיין היטב באותם מקורות ולראות שאכן מדברים הם על הנושא הרצוי, וכן לראות את הקשרם של הדברים, שלעיתים משנה את כל העניין.

[לשם המחשה, ראיתי באחד הספרים המעודדים "אימון אישי", ציטוט השראה מהגמרא: "כל העולם כולו שלך הוא, מה שאתה רוצה לעשות בעולמך עשה", כשכוונת המחבר לעודד את האדם לעשות בעולם כל מה שעולה בדמיונו.

מי שפותח את המקור (סנהדרין לח ע"ב), נוכח מיד לדעת שאת המשפט הזה אמרו מלאכי השרת לפני הקב"ה… אותו מחבר ציטט את המשפט במדויק, רק שכח לציין פרט שולי, והוא על מי המשפט נאמר].

ומה בנוגע לעתיד?

חשוב לציין שגם אם נגיע למצב שהבינה המלאכותית תדייק במקורותיה ופסיקותיה, מסתבר שלא נוכל לסמוך עליה למעשה.

התורה ירדה ונתלבשה בשכל אנושי, וגם אם במתיבתא דרקיעא נפסק משהו אחד, ובבית דין של מטה נפסק משהו אחר, ההלכה היא כפי שנפסק על ידי בני האדם, כי תורה לא בשמיים היא.

בוודאי ההלכות הנלמדות במתיבתא דרקיעא מדויקות יותר, כי אין שם אפשרות לטעות, בכל זאת ההלכה נמסרה לאדם בעל שכל אנושי, שיכריע על פי מה שמבין בשכלו (יש המקשרים זאת גם לדין "עד אחד נאמן באיסורים", ואין כאן המקום לפרט זאת).

הבינה המלאכותית אינה שכל אנושי, ובעצם היא אינה בינה ואינה מבינה. מדובר בשיטות עבודה המבוססות על חישובים וצירופים רבים ומהירים, ואין שם הכרה והבנה של המושגים עצמם.

נוסף על כך, מי שהתנסה בשאלות על נושאים שנויים במחלוקת, ישים לב שאופן השאלה וזהות השואל משפיעים רבות על התשובה. נסו למשל לשאול על הסכסוך הישראלי-פלסטיני, בתור יהודי ישראלי, ולאחר מכן בתור ערבי פלסטיני (באמצעות חשבון אחר) – תוכלו מיד לשים לב שהבינה מנסה אמנם לענות באובייקטיביות, אך נוטה תמיד לכיוון נקודת ראותו של השואל.

בעקבות זאת ייווצר מצב שאדם השואל שאלות בהלכה, יקבל תשובות על פי "הזמנתו", ולא על פי האמת. לא יהיה שם רב בשר ודם שיברר אצל השואל את הרקע ואת הנסיבות שלו לאותה שאלה.

חסרונות נוספים

כמו כן, קיימים מספר חסרונות נוספים בפסיקה על ידי בינה מלאכותית, ואזכירם בקצרה:

א. הבנת המציאות הכרחית לפסיקת ההלכה. הבינה המלאכותית "מכירה" את המציאות על פי המידע ברחבי הרשת בלבד, לעומתה רב בשר ודם מכיר את המציאות עצמה עם כל הניואנסים של הקהילות, שלא כתובים בשום מקום ברשת.

ב. לא יימלט שישתלבו ב"פסיקה" של הבינה, ערכים אוניברסליים ולא-יהודיים של שוויון, הומניות ושאר ירקות, לא באופן הנכון על פי התורה. הרי בוודאי היא לא תעודד לעבור על החוק, במקרים שהתורה פוסקת אחרת מהחוק.

ג. מסורת הפסיקה, הבנת מצב של שעת הדחק וכל מה שנקרא "שולחן ערוך החמישי" – יהיו חסרים לאותה בינה, כי לא כל הדברים כתובים ויכולים להיות כתובים ברשת או בספרים. ובפרט: ה"סייעתא דשמיא" שמלווה את הרב, שכמובן "אין סומכין על הנס" וצריך רב שיודע הלכות על בוריין, אבל גם לאחר עיונו הקב"ה עוזרו שלא יטעה בדבר הלכה. ומן הסתם הבינה אינה זוכה לסייעתא זו.

מסקנה: בשלב זה בוודאי אין לסמוך על הבינה המלאכותית בענייני הלכה, ומסתבר שגם לא יהיה ניתן לסמוך עליה בעתיד.

לקינוח, הנה ההסבר של הAI עצמו על תופעת ההמצאות של הAI:

הנה הסבר מדעי, עמוק ומדויק, לתופעה שבה מערכות בינה מלאכותית (כמו זו שאתה מדבר איתה) "ממציאות" מקורות וציטוטים שלמים שלא קיימים בפועל — תופעה המכונה בעולם המחקר hallucination (או בעברית: "הזיה").

✦ רקע בסיסי – כיצד פועלת בינה מלאכותית מסוג GPT?

הבינה המלאכותית שאתה משתמש בה, כמו GPT, מבוססת על רשת עצבית עמוקה שנקראת Transformer. המודל הזה לא "מבין" או "יודע" מידע במובן האנושי, אלא מאומן על כמויות עתק של טקסטים מהאינטרנט, ספרים, מאמרים ועוד. במהלך האימון, הוא למד לדייק ביכולת החיזוי שלו: מהי המילה או הפסקה הבאה הכי סבירה, בהתבסס על ההקשר הקודם.

המודל לא שומר "מסד נתונים" של מקורות. הוא לא שולף טקסטים מהזיכרון, אלא מנבא טקסט חדש על סמך דפוסים של שפה ולוגיקה שנלמדו. לכן, כשאתה שואל שאלה הלכתית או מבקש ציטוט ממקור, המודל לא מחפש במאגר פסוקים, שיחות או דפים מסודרים, אלא "משלים" את התשובה לפי ההסתברויות הלשוניות שהוא למד.

✦ אז למה הוא ממציא מקורות?

צורת השאלה משפיעה על סוג התשובה

אם אתה שואל: "היכן נאמר בגמרא ש…", המודל "מרגיש" שצפוי ממנו לציין מקור. בגלל שהאימון שלו כלל הרבה שאלות-תשובות עם מבנה דומה (ממקורות אמיתיים או מומצאים), הוא משלים תשובה שנשמעת נכונה לפי התבנית: שם מסכת, דף, ציטוט.

שילוב של תבניות דומות

לעיתים קרובות המודל ראה קטעים כמו: "אמר ר' חייא…" או "בירושלמי כתובות כתוב…", ולכן הוא "מלחים" את שני הדפוסים יחד, גם אם שילוב כזה לא הופיע אף פעם באמת. הוא לא בודק אם זה נכון, כי אין לו מנגנון "אימות".

היעדר גישה למקור חי

GPT אינו מחובר בפועל למאגר טקסטים הלכתי אמין (כמו אוצר החכמה או ספריא). הוא לא בודק מול מקור קיים. כל "ציטוט" שהוא כותב – מבוסס על מה שנראה לו סביר לפי הדפוסים הסטטיסטיים של מילים.

היעדר הבנה מושגית

GPT לא "יודע" מה זה "יבמות סג ע"א" כמו שאתה יודע. הוא לא מבין מהי "הקשר", "הקבלה", או "השוואה". הוא רק זיהה שאלו מילים שמופיעות בקרבה זה לזה פעמים רבות.

ריבוי חומרים סותרים באימון

המודל נחשף לא פעם גם לחומרים לא מדויקים או שגויים (כמו ציטוטים מומצאים, דרשות לא מקוריות או תוכן גולשים). לכן הוא למד גם דפוסים מוטעים – ואז משחזר אותם ברגע שנראה לו שהם מתאימים.

✦ איך נראית "הזיה" בפועל?

ניקח דוגמה מהמשפט שציינת:

"אמר רבי חייא, מימיי לא אמרתי לאשתי להאכיל את ילדיי או להלביש אותם"

זהו ציטוט סגנוני שמתאים למבנה הלכתי, עם שמות מהגמרא, שפה ארכאית וצורת ניסוח תקנית. המודל יצר משפט שנשמע 100% אותנטי – כי הוא מכיר הרבה משפטים דומים, ויודע לחקות סגנון תלמודי.

✦ האם זה ניתן לתיקון?

עד גבול מסוים. חוקרים עובדים כיום על מספר גישות:

חיבור למאגרי ידע חיצוניים – לדוגמה, לחבר את המודל למאגרי ספרים אמיתיים, ולחייב אותו להביא תשובות רק ממידע שקיים באמת.

מודלים עם זיכרון אמיתי ואימות פנימי – שילוב של מנועי חיפוש או מנועי אימות כדי לבדוק אם ציטוט מסוים באמת קיים.

שיטות איסוף ראיות – פיתוח יכולות של המודל "לסמן" אילו חלקים בתשובה הם ודאיים ואילו הם בגדר ניחוש.

אבל גם אז – תישאר מגבלה מהותית: המודל עצמו אינו יודע אם הוא טועה. אין לו מודעות או אחריות. זה תמיד יהיה תוצר של הסתברות.

✦ סיכום

כאשר בינה מלאכותית "ממציאה מקורות", זה אינו שקר מכוון – אלא תוצאה ישירה של המנגנון שבו היא פועלת:

היא לא זוכרת, אלא מנבאת.

לא בודקת, אלא מדמה.

לא מצטטת, אלא מחקה.

ולכן גם אם תשובתה נשמעת מלוטשת, נבונה ואפילו מדויקת – היא תמיד חייבת לעבור אימות אנושי עצמאי, בעיקר כאשר מדובר בתחומים רגישים כמו הלכה.