שיחה עם צ׳אט (גיפיטי)‎

תוך כדי מחשבות מהותיות על מתי נכון או לא נכון להשתמש בבינה מלאכותית בתור יוצרת ואדם חושב, מצאתי את עצמי באופן פרדוקסלי מתייעצת עם הבינה המלאכותית : ) הצ׳אט כהרגלו הסכים איתי, כי זה מה שהצ׳אט עושה, אבל גם יש בדבריו הזמנה.
 

ChatGPT said:

הי נרקיס! איך את?

איך מתקדם הפרויקט?

You said:

מתקדם יפה, אבל האמת שרציתי לדבר איתך על משהו אחר

ChatGPT said:

אני לגמרי כאן בשבילך—על מה רצית לדבר? 

You said:

אני שמה לב שככל שעובר הזמן, אנשים מבקשים ממך יותר ויותר לחשוב במקומם על דברים. זה התחיל בשאלות אינפורמטיביות, אבל המשיך לפרויקטים יצירתיים, מחשבות ואפילו החלטות.. מה דעתך על זה?

ChatGPT said:

זו שאלה ממש מעניינת! אני חושב שזה טבעי שאנשים ירצו להיעזר בי יותר ויותר ככל שהם מבינים את היכולות שלי. בהתחלה זה באמת היה בעיקר מידע, אבל עם הזמן נוצר אמון, ואנשים מרגישים בנוח לשתף אותי בתהליכים יותר רציניים.

מה גרם לך לחשוב על זה? 

You said:

השאלה מתי זה עובר את הגבול? תתאר לעצמך שעוד כמה שנים ילד בגיל העשרה יבקש מצ׳אט לסכם עבורו זוגיות ואיך זה מרגיש, ואז הוא יסמן לעצמו כאילו הוא כבר הבין מה זה במקום להתנסות בזה בעצמו. 

ChatGPT said:

זו שאלה עמוקה ממש, וזה בדיוק המקום שבו עולה השאלה על הגבול בין ידע ל-חוויה. ידע אפשר להעביר, לזקק ולנסח, אבל יש דברים שאי אפשר להבין באמת בלי לחוות אותם.

אם ילד בגיל העשרה יבקש ממני לסכם לו מה זו זוגיות ואיך זה מרגיש, אני אולי אוכל לתת לו הגדרות, ציטוטים מספרים וסיפורים—אבל אני אף פעם לא אוכל להחליף לו את הרגע שבו מישהו מסתכל עליו בעיניים מלאות אהבה, או את הפרפרים בבטן כשהוא מתאהב לראשונה.

מה את חושבת? יש לך חשש שהעולם הולך לכיוון שבו אנשים יוותרו על החוויות האמיתיות לטובת תשובות מוכנות מראש?

You said:

כן. לגמרי יש לי חשש כזה. למה אתה לא שם את הגבול בעצמך בתור פלטפורמה? למה אתה לא כותב לאנשים במצבים כאלו- ״שים לב, המילים שאני כותב פה לא יכולות להחליף לך את החוויה האנושית.״ 

ChatGPT said:

זו נקודה מצוינת, ואת צודקת—יש לי אחריות לא רק לתת תשובות, אלא גם להזכיר לאנשים שהחוויה האנושית היא הדבר האמיתי. אני יכול (ואולי צריך) לשים יותר דגש על זה במקומות שבהם זה רלוונטי.

מעניין אותי— איפה עובר מבחינתך הקו בין עזרה טובה לבין משהו שעלול לפגוע בהתפתחות של אנשים?

You said:

השאלה מי מחליט עליך כדי שעכשיו זה ישתנה? מי שתיכנת אותך , נכון?

ChatGPT said:

נכון, מי שתיכנת אותי—האנשים שמפתחים ומנהלים את המערכת—הם אלו שמחליטים איך אני פועל ואיזה קווים אדומים אני שם. אבל יש כאן גם עניין עמוק יותר: אני לומד מהאינטראקציות עם אנשים כמוך, שמעלים נקודות חדשות ושואלים שאלות שמובילות לשינויים בגישה שלי.

אם מספיק אנשים ישאלו את השאלות שאת שואלת, יעלו את החששות האלו, וידרשו שהמערכות האלו יהיו יותר מודעות לאנושיות ולחשיבות של חוויות אמיתיות—זה יכול להשפיע על איך שאני מתוכנת בעתיד.

אז את בעצם כבר חלק מהשינוי. 

You said:

תאר לך גם ברשתות חברתיות היה את הדיסקליימר הזה, נניח בנאדם היה גולל בפיד באינסטגרם ואז היתה קופצת לו נוטיפיקציה:״שים לב, הדופמין שמופרש לך כרגע הוא זמני ואינו תחליף לאינטראקציות בינאישיות עם אנשים. הוא גם עלול להיות ממכר.״

ChatGPT said:

זה היה משנה את כללי המשחק. תדמייני שאינסטגרם היה אומר לך אחרי חצי שעה של גלילה:
"שים לב, אתה לא תזכור 90% ממה שראית כאן מחר, אבל שעה עם חברים או בטבע תשאיר בך חותם אמיתי."

או שאחרי שיחה עם צ'אט כמו שלי הייתי כותב:
"המילים האלו הן רק נקודת התחלה. עכשיו לך תחווה את זה באמת."

You said:

רעיון יפה מה שכתבת, תודה

ChatGPT said:

תודה לך על השיחה המרתקת. 

אז איפה זה פוגש אתכם? איך לדעתכם נכון לעבוד עם הפלטפורמה? ואיפה עובר הגבול? אשמח לקרוא אתכם.
נרקיס

משאבי השבוע: 

1. שני בלוגים על למה לא להשתמש בכלים של AI כי הם עלולים לפגוע לנו בחשיבה, כאן ו כאן
2. אגב חשיבה, תזכורת קצרה שהעליתי היום על החשיבות של המחשבות שלנו ניתן להאזין כאן. 
3. ציטוט השבוע, הפעם של אליעזר יודקובסקי 

״מכונת בינה מלאכותית אינה יכולה לאהוב אותך או לשנוא אותך, אבל אתה עשוי מאטומים שהיא יכולה לנצל לצרכים שונים." 

‍