בס"ד
אחת הסוגיות המעניינות ביותר כיום היא סוגיית ה - AI. 

למה זה נושא חם?

- כי הוא נוגע כמעט בכל תחום: חינוך, עבודה, בריאות, ביטחון, מוסר, טכנולוגיה ועוד.

- כי ההתפתחות מהירה - רובוטים, צ׳אטבוטים, מערכות אוטומציה, מחוללי תמונות, נהיגה אוטונומית...

- כי לאנשים יש רגשות מעורבים: חלק רואים בזה קידמה, אחרים חוששים מאובדן מקומות עבודה, או מאובדן שליטה.

באשכול הזה אפשר להתדיין בסוגייה זו - מה ההשלכות של הבינה המלאכותית בעתיד? מהם היתרונות? מהם החסרונות? האם באמת רובוטים יכולים להשתלט על העולם? איך זה ישפיע על חיינו האישיים - לימודים, עבודה, חינוך, כלכלה וכדומה.

בישיבה של זוכי פרס נובל לשנת 2024 בארמון המלכותי בשוודיה התדיינו זוכי הפרסים בנושאים מרכזיים החשובים לעולם, ביניהם כמובן הAI. לא כל הישיבה עוסקת בבינה המלאכותית אך בהתחלה הזוכים גם מקיימים דיון בנושא. 
קישור לישיבה: 

כמה נקודות חשובות:
- הדיון יתנהל בצורה מכובדת
- החוקים הגלובאליים כמובן חלים גם כאן (חלום חיי להגיד את המשפט הזה)
- תהנו 😉 
 

אני אתחיל את הדיון - לדעתי ה - AI מסוכן מאוד לחברה יותר מהיתרונות שלו. זה ליטרלי Bad game שמסכן את הציבור בכל התחומים בדיוק כמו היתרונות שלו. 
היום זה כבר ברמה קיצונית מדי ומסוכן אפילו לפתוח גוגל בטלפון..

נערך בתאריך אוגוסט 7, 2025אוג 7 - על-ידי פרון

בינה מלאכותית טובה ויעילה, אבל לתת לה להחליף הכל זאת טעות, כל דבר בעולם צריך איזון

לפני 1 דקה קטון כתב:

בינה מלאכותית טובה ויעילה, אבל לתת לה להחליף הכל זאת טעות, כל דבר בעולם צריך איזון

אני מבין מה שאתה אומר. הAI מביא טכנולוגיות חדשות שפשוט הופכות את הבלתי אפשרי לאפשרי. אבל אני פשוט לא מצליח לראות את היתרונות מנצחים את החסרונות. מסוכן היום לפתוח גוגל ופייסבוק הרבה יותר משמסוכן ללכת הרחוב, ברוב המקומות. אפשר בשניה לפרסם פרטים אישיים שרצים ברשת בטיל, התחזויות ברמה הזויה לגמרי ויצירת תמונות שפשוט זורקת את הפרטיות לפח

זה חברים למה צריך להתנתק מהעולם ולשחק משחקי מחשב :))))

לפני כעת פרון כתב:

אני מבין מה שאתה אומר. הAI מביא טכנולוגיות חדשות שפשוט הופכות את הבלתי אפשרי לאפשרי. אבל אני פשוט לא מצליח לראות את היתרונות מנצחים את החסרונות. מסוכן היום לפתוח גוגל ופייסבוק הרבה יותר משמסוכן ללכת הרחוב, ברוב המקומות. אפשר בשניה לפרסם פרטים אישיים שרצים ברשת בטיל, התחזויות ברמה הזויה לגמרי ויצירת תמונות שפשוט זורקת את הפרטיות לפח

הנה משקפיים כדי שתראה את היתרונות מנצחים את החסרונות

חסרנות

1. לא מבין כלום בתורה

2. גונב פרטים אישיים ומשמיד קו היגיון בריא של אנשים

יתרונות 

1. מגניב
2. חכם ולומד
3. משדרג ומחשב
4. יוצר חברות מזוייפת שאפשר למחוק בקלות בלי השלכות של נטישה וחרטה
5. עוזר להאקרים לפתוח מלחמת עולם שלישית (תתעלמו)
6. יוצר תמונות יפות
7. יכול לתת לך לפרוץ למקומות אסורים באינטרנט 

לפני 2 דקות חתוליםהםהחיים כתב:

זה חברים למה צריך להתנתק מהעולם ולשחק משחקי מחשב :))))

מה?

 

לפני 1 דקה קטון כתב:

מה?

פרוני ביקש תגובה מילולית ממני ולא רק לייק

לפני כעת קטון כתב:

הנה משקפיים כדי שתראה את היתרונות מנצחים את החסרונות

חסרנות

1. לא מבין כלום בתורה

2. גונב פרטים אישיים ומשמיד קו היגיון בריא של אנשים

יתרונות 

1. מגניב
2. חכם ולומד
3. משדרג ומחשב
4. יוצר חברות מזוייפת שאפשר למחוק בקלות בלי השלכות של נטישה וחרטה
5. עוזר להאקרים לפתוח מלחמת עולם שלישית (תתעלמו)
6. יוצר תמונות יפות
7. יכול לתת לך לפרוץ למקומות אסורים באינטרנט 

חחח אהבתי שרוב היתרונות הם לגמרי יתרונות ולא חסרונות 😉 
אני אתן לך מענה ישיר לכל היתרונות:
1. אני גם מגניב, אבל זה לא הופך אותי למשהו שמשפיע על העולם לטובה
2. אני גם חכם ולומד, זה לא הופך אותי למשהו שמשפיע על העולם.
3. משחקי מחשב מטמטמים את האדם וגורמים לו לא לראות את הדברים החשובים באמת.
4. אי אפשר למחוק בקלות וזה גורם נזק מיותר לגמרי
5. התעלמתי
6. יפות מדי, וחושפניות
7. אני אתעלם מזה 

לפני כעת פרון כתב:

חחח אהבתי שרוב היתרונות הם לגמרי יתרונות ולא חסרונות 😉 
אני אתן לך מענה ישיר לכל היתרונות:
1. אני גם מגניב, אבל זה לא הופך אותי למשהו שמשפיע על העולם לטובה
2. אני גם חכם ולומד, זה לא הופך אותי למשהו שמשפיע על העולם.
3. משחקי מחשב מטמטמים את האדם וגורמים לו לא לראות את הדברים החשובים באמת.
4. אי אפשר למחוק בקלות וזה גורם נזק מיותר לגמרי
5. התעלמתי
6. יפות מדי, וחושפניות
7. אני אתעלם מזה 

3. אם אתה לא מגזים זה בסדר כמו שכתבתי למעלה רק צריך איזון

6, רק על פי בקשת היוצר, זאת בעיה אישית של אדם אם התמונות שלו רעות

5. תודה

לפני 1 דקה קטון כתב:

3. אם אתה לא מגזים זה בסדר כמו שכתבתי למעלה רק צריך איזון

6, רק על פי בקשת היוצר, זאת בעיה אישית של אדם אם התמונות שלו רעות

5. תודה

3. אבל אתה מבין שבני אדם נולדו כדי להגזים, ויש היום יותר הגזמות מלא..
6. אבל הבעיה האישית הזאת פוגעת באנשים. זאת בעיה אישית שלי שהחלטתי לירות במישהו ברחוב נכון ? אבל זאת בעיה אישית אז לא צריך לאכוף נכון?
5. בכיף אחי☺️

לפני כעת פרון כתב:

3. אבל אתה מבין שבני אדם נולדו כדי להגזים, ויש היום יותר הגזמות מלא..
6. אבל הבעיה האישית הזאת פוגעת באנשים. זאת בעיה אישית שלי שהחלטתי לירות במישהו ברחוב נכון ? אבל זאת בעיה אישית אז לא צריך לאכוף נכון?
5. בכיף אחי☺️

3. להגזים לאו דווקא דבר מטורף ומשוגע

6. להכל יש מקור, גם לאנשים רעים, רק שאז הוא מוכיח שיש לו רוע שמשתלט עליו, כל עוד לא נזין את הבינה המלאכותית ברוע טהור היא לא תידרדר

3. אבל בהקשר הזה הגזמה היא כן דבר לא טוב..
6. אתה מצפה ממיליארדי אנשים לא להיות רעים? אמיץ אבל בלתי אפשרי אחי

לפני 1 דקה פרון כתב:

3. אבל בהקשר הזה הגזמה היא כן דבר לא טוב..
6. אתה מצפה ממיליארדי אנשים לא להיות רעים? אמיץ אבל בלתי אפשרי אחי

3. נכון

6. לצערנו גם נכון

אני בעד בינה מלאכותית, כי לי אישית היא תורמת מאוד בתכנות ובמשימות דומות, ויש לה יתרונות נוספים כמו: 

עזרה בלמידה – מסביר, מסכם, מתרגל.
מעורר יצירתיות – נותן רעיונות, תמונות, מוזיקה.
תומך ברפואה, תעשייה, תחבורה ועוד – מזהה מחלות, בודק מוצרים, שולט ברכבים אוטונומיים.
ויש עוד המון...
חוץ מזה לכל מי שטוען שהבינה תחליף עבודות של אנשים, אתם לא טועים בהכרח, אבל גם לא צודקים. זו השערה שגם אם תקרה, היא צפוייה לקרות בעתיד הרחוק ולהשפיע רק על תחומים מסויימים. חשוב לי להוסיף, אני לגמרי מאמין שזה אפשרי לשלוט בכלי של AI, שישמש אותנו ולא יחליף אותנו, כמו שחלק מהאנשים טוענים. 
משהו מעניין נוסף ששומעים עליו הרבה, הוא שהבינה המלאכותית יכולה לתת מידע מסוכן אם מנצלים אותה בצורה רעה. בואו ניקח לצורך הדוגמה את צאט ציפיטי, פעם שהוא היה פחות אינטיליגנטי, כל מה שהיה צריך לעשות זה לשאול אותו שאלה פעמיים, והייתם מקבלים תשובה לכל שאלה שהייתה לכם. נגיד בשנים הראשונות של הבינה, חבר שלי שאל את הצאט שאלות שלא היו מתקבלות היום מאף מקור באינטרנט, הבינה סירבה בפעם הראשונה בטענה שהיא לא יכולה לעזור בדברים מהסוג הזה, אז הוא שאל פעם נוספת וקיבל תשובה מפורטת כמו נוסחה שלמה של קציצת הסרטן.
אבל היום לא יקרה כמעט מצבים שהבינה תספק מידע כזה, כי החברות שאחראיות עליהן לא טיפשות, והן יודעות בדיוק איך ואיפה צריך להגביל את הבינה משימושים מזיקים, ויש להן מערכות הגנות שרק הולכות ומשתפרות. ולמי ששואל: מה אם מישהו ינצל את הבינה לפגיעה באחרים (לדוגמה שימוש AI בתמונות/סירטונים)? גם אינטרנט, מצלמות או טלפונים שימשו לפגיעה באנשים, אבל כמעט אף אחד לא חושב שצריך לבטל אותם נכון? למדנו איך להשתמש בהן עם חוקים, הגבלות ופיקוח. אותו דבר עם בינה מלאכותית היא בסך הכול כלי. ואני מבין ממה שאומרים שאין אמון שהשימוש בבינה יהיה רק חיובי, ואני מסוגל להבין את זה. אבל עדיין אפשר גם לפתור בעיות כאלו של שימוש לרעה, על ידי חיקוק חוקים שאוסרים זאת, העלת המודעות ועוד. עוד נקודה שארצה להתעכב עליה, זה שלדעתי אנשים נוטים להתמקד בחסרונות של הבינה, אבל הם לא מודעים לאיך הבינה המלאכותית כבר חלק מהחיים שלהם. תחשבו על זה, קצת מצחיק שאנחנו משוחחים על AI באתר שחלק ממנו כתוב בקוד שבינה מלאכותית יצרה בעצמה. בקיצור, לדעתי השימוש בבינה מלאכותית תורם הרבה לחיים שלנו, לפעמים אפילו מבלי שנשים לב מאחורי הקלעים של הרפואה, התחבורה, החינוך ובתחומי החיים השונים, ולכן אני רואה המון יתרונות לשימוש בו.

הדעה שלי מאוד פשוטה בנושא מצעד אחד זה יכול לפוגע בפרטיות של האחר אבל אם נותנים לאנשים אמנים שבאמת למדו איך להשתמש בזה זה יכול מאוד לעזור במיוחד בתחום שאני עובד בו נגיד לא תמיד אנשים קוראים כמו שצריך את השלטים בחניות אז אולי לעשות שלטים דיגיטליים כאלה שרשום נגיד מחיר ואז אם משהוא לא רואה מספיק טוב או קורא  לוחץ על כפתור וזה מקריא את השלט 

לפני 6 שעות MRJOKER כתב:

אני בעד בינה מלאכותית, כי לי אישית היא תורמת מאוד בתכנות ובמשימות דומות, ויש לה יתרונות נוספים כמו: 

עזרה בלמידה – מסביר, מסכם, מתרגל.
מעורר יצירתיות – נותן רעיונות, תמונות, מוזיקה.
תומך ברפואה, תעשייה, תחבורה ועוד – מזהה מחלות, בודק מוצרים, שולט ברכבים אוטונומיים.
ויש עוד המון...
חוץ מזה לכל מי שטוען שהבינה תחליף עבודות של אנשים, אתם לא טועים בהכרח, אבל גם לא צודקים. זו השערה שגם אם תקרה, היא צפוייה לקרות בעתיד הרחוק ולהשפיע רק על תחומים מסויימים. חשוב לי להוסיף, אני לגמרי מאמין שזה אפשרי לשלוט בכלי של AI, שישמש אותנו ולא יחליף אותנו, כמו שחלק מהאנשים טוענים. 
משהו מעניין נוסף ששומעים עליו הרבה, הוא שהבינה המלאכותית יכולה לתת מידע מסוכן אם מנצלים אותה בצורה רעה. בואו ניקח לצורך הדוגמה את צאט ציפיטי, פעם שהוא היה פחות אינטיליגנטי, כל מה שהיה צריך לעשות זה לשאול אותו שאלה פעמיים, והייתם מקבלים תשובה לכל שאלה שהייתה לכם. נגיד בשנים הראשונות של הבינה, חבר שלי שאל את הצאט שאלות שלא היו מתקבלות היום מאף מקור באינטרנט, הבינה סירבה בפעם הראשונה בטענה שהיא לא יכולה לעזור בדברים מהסוג הזה, אז הוא שאל פעם נוספת וקיבל תשובה מפורטת כמו נוסחה שלמה של קציצת הסרטן.
אבל היום לא יקרה כמעט מצבים שהבינה תספק מידע כזה, כי החברות שאחראיות עליהן לא טיפשות, והן יודעות בדיוק איך ואיפה צריך להגביל את הבינה משימושים מזיקים, ויש להן מערכות הגנות שרק הולכות ומשתפרות. ולמי ששואל: מה אם מישהו ינצל את הבינה לפגיעה באחרים (לדוגמה שימוש AI בתמונות/סירטונים)? גם אינטרנט, מצלמות או טלפונים שימשו לפגיעה באנשים, אבל כמעט אף אחד לא חושב שצריך לבטל אותם נכון? למדנו איך להשתמש בהן עם חוקים, הגבלות ופיקוח. אותו דבר עם בינה מלאכותית היא בסך הכול כלי. ואני מבין ממה שאומרים שאין אמון שהשימוש בבינה יהיה רק חיובי, ואני מסוגל להבין את זה. אבל עדיין אפשר גם לפתור בעיות כאלו של שימוש לרעה, על ידי חיקוק חוקים שאוסרים זאת, העלת המודעות ועוד. עוד נקודה שארצה להתעכב עליה, זה שלדעתי אנשים נוטים להתמקד בחסרונות של הבינה, אבל הם לא מודעים לאיך הבינה המלאכותית כבר חלק מהחיים שלהם. תחשבו על זה, קצת מצחיק שאנחנו משוחחים על AI באתר שחלק ממנו כתוב בקוד שבינה מלאכותית יצרה בעצמה. בקיצור, לדעתי השימוש בבינה מלאכותית תורם הרבה לחיים שלנו, לפעמים אפילו מבלי שנשים לב מאחורי הקלעים של הרפואה, התחבורה, החינוך ובתחומי החיים השונים, ולכן אני רואה המון יתרונות לשימוש בו.

דבר ראשון, תודה על ההשתתפות בדיון. הבינה המלאכותית היא כלי יעיל ללא שום ספק, היא מנגישה מידע באופן מיידי, עוזרת כמובן במקצועות חשובים כגון רפואה, פסיכולוגיה, תחבורה וכדומה. זאת ועוד בשנים האחרונות המילים כגון "בית חכם מדבר", "מכוניות אוטונומיות" ו"רובוטים" הן מילים יומיומות בקרב הקהילה המדעית, והחברה הלאומית. אבל יש כמה היבטים שצריך להסתכל עלים, או יותר נכון חייב להסתכל עליהם שהופכים את הAI לbad game בקרב אנשים בעולם. אתן דוגמא שללא צל של ספק אחת החשובות, ההיבט הצבאי. כיום כל שניה ושניה יש מלחמות סייבר, פריצות והאזנות המסכנות את ביטחונה של המדינה. אדם אשכרה יכול לשבט 2000 ק"מ ממדינת ישראל ולהאזין לשיחות קריטיות ללא כל סיכון משמעותי. זה מאפשר להשבית מדינה שלמה פשוט בלחיצת כפתור אחת פשוטה, ממש ככה. עם כל היתרונות בדבר, וב"ה לא חסר, הסכנה הקיימת לעולם פשוט קריטית מדיי. ומה שהכי מייחד את הAI משאר המצבים הוא שפשוט אי אפשר לשים הגבלות ופיקוח בקרב הקהל. אנשים יכולים להתמחות בפריצות תוך זמן קצר, ולסכן את הפרטיות של הציבור, של מדינות שלמות ואפילו של העולם כולו. המוסד היום במצב שאנשים יושבים מול מחשב 24/7 ופשוט רק מנסים לפרוץ למערכות. ברור בניתן לשים חוקים, וזה חייב להעשות, אבל גם עם חוקים יש מיליונים של אנשים, לא פחות, שיודעים לפרוץ לסלולר שלך ולמערכות לאומיות ובין לאומיות. הפחד הזה, שאני לא יכול לפתוח גוגל, אפילו עם כל היתרונות המשמעותיים, פשוט לא בא בחשבון. אני מאמין באפשר למצוא דרך שתשלב כמובן AI אבל לא תסכן את הציבור הרחב בחדירה לפרטיות.
 

לכן, אני נגד, אבל אשמח לשמוע עוד טענות ששלך בנושא ואולי אשנה את דעתי בזכותך בגלל דברים שאני לא רואה.

 

נערך בתאריך אוגוסט 7, 2025אוג 7 - על-ידי פרון

לפני 5 דקות פרון כתב:

דבר ראשון, תודה על ההשתתפות בדיון. הבינה המלאכותית היא כלי יעיל ללא שום ספק, היא מנגישה מידע באופן מיידי, עוזרת כמובן במקצועות חשובים כגון רפואה, פסיכולוגיה, תחבורה וכדומה. זאת ועוד בשנים האחרונות המילים כגון "בית חכם מדבר", "מכוניות אוטונומיות" ו"רובוטים" הן מילים יומיומות בקרב הקהילה המדעית, והחברה הלאומית. אבל יש כמה היבטים שצריך להסתכל עלים, או יותר נכון חייב להסתכל עליהם שהופכים את הAI לbad game בקרב אנשים בעולם. אתן דוגמא שללא צל של ספק אחת החשובות, ההיבט הצבאי. כיום כל שניה ושניה יש מלחמות סייבר, פריצות והאזנות המסכנות את ביטחונה של המדינה. אדם אשכרה יכול לשבט 2000 ק"מ ממדינת ישראל ולהאזין לשיחות קריטיות ללא כל סיכון משמעותי. זה מאפשר להשבית מדינה שלמה פשוט בלחיצת כפתור אחת פשוטה, ממש ככה. עם כל היתרונות בדבר, וב"ה לא חסר, הסכנה הקיימת לעולם פשוט קריטית מדיי. ומה שהכי מייחד את הAI משאר המצבים הוא שפשוט אי אפשר לשים הגבלות ופיקוח בקרב הקהל. אנשים יכולים להתמחות בפריצות תוך זמן קצר, ולסכן את הפרטיות של הציבור, של מדינות שלמות ואפילו של העולם כולו. המוסד היום במצב שאנשים יושבים מול מחשב 24/7 ופשוט רק מנסים לפרוץ למערכות. ברור בניתן לשים חוקים, וזה חייב להעשות, אבל גם עם חוקים יש מיליונים של אנשים, לא פחות, שיודעים לפרוץ לסלולר שלך ולמערכות לאומיות ובין לאומיות. הפחד הזה, שאני לא יכול לפתוח גוגל, אפילו עם כל היתרונות המשמעותיים, פשוט לא בא בחשבון. אני מאמין באפשר למצוא דרך שתשלב כמובן AI אבל לא תסכן את הציבור הרחב בחדירה לפרטיות.
 

לכן, אני נגד, אבל אשמח לשמוע עוד טענות ששלך בנושא ואולי אשנה את דעתי בזכותך בגלל דברים שאני לא רואה.

 

אני מסוגל להבין את החששות שלך אבל אני חושב שאתה מציג את הדברים בצורה קצת קיצונית. קודם כל אי אפשר פשוט בלחיצת כפתור לפרוץ לכל מערכת או להשבית מדינה. במציאות כדי לעשות מתקפת סייבר אמיתית צריך הרבה ידע מקצועי, גישה, מודיעין, ואמצעים מתאימים. לא כל אחד עם מחשב ואינטרנט יכול לעשות את זה, גם לא עם בינה מלאכותית. בנוסף AI הוא כלי חזק אבל הוא יכול לשמש לטוב או לרע. לדוגמה AI גם משמש כיום כחלק מרכזי בהגנה. מערכות סייבר מתקדמות עושות שימוש בבינה מלאכותית כדי לזהות איומים בזמן אמת, למנוע מתקפות ולשמור על מערכות קריטיות כולל אלו שמגנות עלינו. ולגבי זה שאתה אומר שאין פיקוח אני לא חושב שזה מדויק כי כן יש פיקוח על AI ובאירופה כבר חוקקו חוקים מיוחדים לזה, וגם בישראל עובדים על זה. זה לא כזה פרוץ כמו שאתה מציג, ויש גבולות ברורים וכללים. לגבי החשש לפתוח גוגל אני חושב שזה די מוגזם. גוגל כמו שאר החברות הגדולות, מפעילה מערכות אבטחה ברמה הכי גבוהה שיש ויש לה חובת עמידה בתקנים של פרטיות ואבטחת מידע ואם באמת היה כל כך קל לפרוץ דרך גוגל היינו רואים את זה קורה כל הזמן, וזה פשוט לא המצב. אז אני יכול להבין את החששות שלך, אבל לדעתי הפתרון זה לא שצריך לברוח מה AI אלא פשוט לדעת להשתמש בו בחוכמה, עם פיקוח וכללים ברורים, וענישה למי שבוחר להתעלם מהם.

נאמר זאת בעדינות

אחת הסוגיות הכי לוהטות של זה ועדיין זה בצללים של הדיון הציבורי כדי למנוע מההמונים להתערב הוא שהבינה יכולה לזייף הרבה דברים. חלק מהדברים האלה הם דברים שהדבר האמיתי אפילו גרוע יותר. וזה מעלה את השאלה המוססרית האם דברים מזוייפים עדיפים על דברים אמיתיים שבתחתית המוסר האנושי. העמדה של אילון מאסק עם גרוק ורשת X מוסיפה אש לברדק הזה כי גרוק מאד מכוונת (כן גרוק פתאום נהיה ילדת אנימה מסתבר) לסרב לזייף דברים מסויימים שX מאד גרוע בלעשות פעולות נגד הדבר האמיתי.

לפני 9 שעות MRJOKER כתב:

אני מסוגל להבין את החששות שלך אבל אני חושב שאתה מציג את הדברים בצורה קצת קיצונית. קודם כל אי אפשר פשוט בלחיצת כפתור לפרוץ לכל מערכת או להשבית מדינה. במציאות כדי לעשות מתקפת סייבר אמיתית צריך הרבה ידע מקצועי, גישה, מודיעין, ואמצעים מתאימים. לא כל אחד עם מחשב ואינטרנט יכול לעשות את זה, גם לא עם בינה מלאכותית. בנוסף AI הוא כלי חזק אבל הוא יכול לשמש לטוב או לרע. לדוגמה AI גם משמש כיום כחלק מרכזי בהגנה. מערכות סייבר מתקדמות עושות שימוש בבינה מלאכותית כדי לזהות איומים בזמן אמת, למנוע מתקפות ולשמור על מערכות קריטיות כולל אלו שמגנות עלינו. ולגבי זה שאתה אומר שאין פיקוח אני לא חושב שזה מדויק כי כן יש פיקוח על AI ובאירופה כבר חוקקו חוקים מיוחדים לזה, וגם בישראל עובדים על זה. זה לא כזה פרוץ כמו שאתה מציג, ויש גבולות ברורים וכללים. לגבי החשש לפתוח גוגל אני חושב שזה די מוגזם. גוגל כמו שאר החברות הגדולות, מפעילה מערכות אבטחה ברמה הכי גבוהה שיש ויש לה חובת עמידה בתקנים של פרטיות ואבטחת מידע ואם באמת היה כל כך קל לפרוץ דרך גוגל היינו רואים את זה קורה כל הזמן, וזה פשוט לא המצב. אז אני יכול להבין את החששות שלך, אבל לדעתי הפתרון זה לא שצריך לברוח מה AI אלא פשוט לדעת להשתמש בו בחוכמה, עם פיקוח וכללים ברורים, וענישה למי שבוחר להתעלם מהם.

החששות שלי לצערי כבר לא חששות, זה הדבר האמיתי. ואני לא חושב שהייתי מייצג את הדברים בצורה שבאמת נראת מוגזמת אם היא לא נכונה. כמובן שהמונח "לחיצת כפתור" הוא תיאורטי והוא רק בא להמחיש כמה קל לפרוץ למערכות בימינו. לא הייתי מציג דוגמאות כאלו אם לא הייתי בטוח שהן נכונות. בסוף צריך להסתכל על זה בנקודת מבט כזו: מה יקרה עם המערכות של הAI בשנים הקרובות? כי אם פריצות כיום הן דבר שיגרתי וכל אחד יכול לפרוץ לך לטלפון(כן, כל אחד) אז מה יקרה עוד 20 שנה, 10 שנים ואפילו 5 שנים? הסייבר והבינה המלאכותית מתקדמות בקצב מטורף, אפילו מטורף מדי. אשמח לשמוע את דעתך מה אתה חושב שיהיה עם הAI עוד 10 שנים?
 

נערך בתאריך אוגוסט 8, 2025אוג 8 - על-ידי פרון

לפני 4 שעות פרון כתב:

החששות שלי לצערי כבר לא חששות, זה הדבר האמיתי. ואני לא חושב שהייתי מייצג את הדברים בצורה שבאמת נראת מוגזמת אם היא לא נכונה. כמובן שהמונח "לחיצת כפתור" הוא תיאורטי והוא רק בא להמחיש כמה קל לפרוץ למערכות בימינו. לא הייתי מציג דוגמאות כאלו אם לא הייתי בטוח שהן נכונות. בסוף צריך להסתכל על זה בנקודת מבט כזו: מה יקרה עם המערכות של הAI בשנים הקרובות? כי אם פריצות כיום הן דבר שיגרתי וכל אחד יכול לפרוץ לך לטלפון(כן, כל אחד) אז מה יקרה עוד 20 שנה, 10 שנים ואפילו 5 שנים? הסייבר והבינה המלאכותית מתקדמות בקצב מטורף, אפילו מטורף מדי. אשמח לשמוע את דעתך מה אתה חושב שיהיה עם הAI עוד 10 שנים?
 

קשה לי לקבל את הטענה שכל אחד יכול לפרוץ לטלפון שלי, מהניסיון שלי זה לא קרה לי מעולם וזה לא במקרה. אין סיבה שיפרצו למכשיר שלך אם אתה לא חושף את המידע האישי שלך במקומות לא מאובטחים, אני תמיד ידעתי איך להתנהל נכון: לא להוריד שטויות מהאינטרנט, לא ללחוץ על קישורים זרים, ולהשתמש רק באתרים ואפליקציות שאני סומך עליהם. זה הוכחה לכך שאם אתה מודע לסכנות שיש באינטרנט, אז כבר הפחתת את הסיכויים לפריצה בצורה משמעותית. באופן כללי AI הוא כלי שעוזר ברוב המקרים לאנשים שכבר יש להם בסיס של ידע כלשהו. אם אתה אדם פשוט בלי ידע שרוצה לפרוץ למישהו למכשיר אז יש כמה בעיות:
1. אף AI לא תומך בבקשות כאלו
2. נניח ושכנעת את ה AI לעזור לך (ספק אם יקרה) עדיין אין לו את היכולת היום לעשות קסם שיחשוף את כל המידע של המכשיר, הוא לא “מחובר” למכשירים של אנשים אחרים כדי לשלוף מהם מידע.
3. במקרה הכי קיצוני אם בעתיד יהיה לו את היכולת והוא יסכים לעזור לך (ספק אם יקרה) בלי ידע טכני והבנה בתחום, לא תדע בכלל מה לעשות עם ההנחיות, כך שבפועל זה לא יקדם אותך לשום מקום.
אז זה לא אומר ש AI לא יכול לסייע לפרוץ, אני מאמין שאפשר למצוא דרכים לקבל מידע שעוזר ממנו לפריצות גם אם הוא לא ישירות מסביר איך פורצים, אבל אני גם חושב שכמו שהתוקפים כל הזמן משתפרים, כך גם ההגנות מתפתחת באותו קצב ולכן אני פחות חושש, כי אותן מערכות הגנה ילמדו לזהות ולחסום מתקפות הרבה לפני שהן פוגעות. לגבי מה יקרה בעוד 10 שנים, זו שאלה כללית מאוד, אבל אם זה נוגע לגבי התקפות הסייבר, אז הסברתי למה אני פחות חושש מזה ואני גם מאמין שאם אנחנו נוותר על הטכנולוגיה הזאת, התוקפים עדיין ינצלו אותה אז זה חסר טעם... אם זה בנוגע לעבודות של אנשים, אז אני חושב שבעוד 10 שנים הבינה המלאכותית תהיה חלק מהחיים שלנו כמעט בכל מקום. היא תדע לעזור לנו בעבודה, בבית, בלימודים, בתחומים שונים ועוד..  אפילו היום אנחנו רואים שיש השפעה של AI בתחום הבריאות והיא עוזרת לרופאים לגלות מחלות אצל מטופלים ולתכנן טיפול מדויק לכל אדם.
אהיה כנה ואגיד, אולי יהיו עבודות מסוימות שייעלמו בעתיד. זה בהחלט משהו שיכול לקרות ואנחנו לא יודעים מתי, אבל במקביל יווצרו הרבה עבודות חדשות בתחומי טכנולוגיה שונים.
בסוף המטרה של AI היא לא להחליף אותנו, אלא לעבוד איתנו ביחד. היא תיקח את המשימות המשעממות והחזרתיות ותאפשר לנו להתמקד בעבודות החשובות יותר. 

לפני ב-8.8.2025 ב 1:21 PM MRJOKER כתב:

קשה לי לקבל את הטענה שכל אחד יכול לפרוץ לטלפון שלי, מהניסיון שלי זה לא קרה לי מעולם וזה לא במקרה. אין סיבה שיפרצו למכשיר שלך אם אתה לא חושף את המידע האישי שלך במקומות לא מאובטחים, אני תמיד ידעתי איך להתנהל נכון: לא להוריד שטויות מהאינטרנט, לא ללחוץ על קישורים זרים, ולהשתמש רק באתרים ואפליקציות שאני סומך עליהם. זה הוכחה לכך שאם אתה מודע לסכנות שיש באינטרנט, אז כבר הפחתת את הסיכויים לפריצה בצורה משמעותית. באופן כללי AI הוא כלי שעוזר ברוב המקרים לאנשים שכבר יש להם בסיס של ידע כלשהו. אם אתה אדם פשוט בלי ידע שרוצה לפרוץ למישהו למכשיר אז יש כמה בעיות:
1. אף AI לא תומך בבקשות כאלו
2. נניח ושכנעת את ה AI לעזור לך (ספק אם יקרה) עדיין אין לו את היכולת היום לעשות קסם שיחשוף את כל המידע של המכשיר, הוא לא “מחובר” למכשירים של אנשים אחרים כדי לשלוף מהם מידע.
3. במקרה הכי קיצוני אם בעתיד יהיה לו את היכולת והוא יסכים לעזור לך (ספק אם יקרה) בלי ידע טכני והבנה בתחום, לא תדע בכלל מה לעשות עם ההנחיות, כך שבפועל זה לא יקדם אותך לשום מקום.
אז זה לא אומר ש AI לא יכול לסייע לפרוץ, אני מאמין שאפשר למצוא דרכים לקבל מידע שעוזר ממנו לפריצות גם אם הוא לא ישירות מסביר איך פורצים, אבל אני גם חושב שכמו שהתוקפים כל הזמן משתפרים, כך גם ההגנות מתפתחת באותו קצב ולכן אני פחות חושש, כי אותן מערכות הגנה ילמדו לזהות ולחסום מתקפות הרבה לפני שהן פוגעות. לגבי מה יקרה בעוד 10 שנים, זו שאלה כללית מאוד, אבל אם זה נוגע לגבי התקפות הסייבר, אז הסברתי למה אני פחות חושש מזה ואני גם מאמין שאם אנחנו נוותר על הטכנולוגיה הזאת, התוקפים עדיין ינצלו אותה אז זה חסר טעם... אם זה בנוגע לעבודות של אנשים, אז אני חושב שבעוד 10 שנים הבינה המלאכותית תהיה חלק מהחיים שלנו כמעט בכל מקום. היא תדע לעזור לנו בעבודה, בבית, בלימודים, בתחומים שונים ועוד..  אפילו היום אנחנו רואים שיש השפעה של AI בתחום הבריאות והיא עוזרת לרופאים לגלות מחלות אצל מטופלים ולתכנן טיפול מדויק לכל אדם.
אהיה כנה ואגיד, אולי יהיו עבודות מסוימות שייעלמו בעתיד. זה בהחלט משהו שיכול לקרות ואנחנו לא יודעים מתי, אבל במקביל יווצרו הרבה עבודות חדשות בתחומי טכנולוגיה שונים.
בסוף המטרה של AI היא לא להחליף אותנו, אלא לעבוד איתנו ביחד. היא תיקח את המשימות המשעממות והחזרתיות ותאפשר לנו להתמקד בעבודות החשובות יותר. 

AI הוא כלי שימוש לא רק בתוכנות GPT וכדומה, יש לו שימושים אחרים ותוכנות כאלו אחרות, ביניהן צבאיות כמובן.. ואלו שימושים קריטיים להתקפות וכדומה, ככה אני חושב לדעתי. AI לא צריך לתמוך בבקשות האלו כי לא מדובר בתוכנות GPT או Claude או משהו דומה, יש הרבה תוכנות AI אחרות שברגע יכולות לגרום נזקים נוראים, לדוגמא יצירת תמונות עם תוכן שלילי ואינטימי וכתיבה שקרית במערכת המשפטית, המדינית  וכדומה. כל שלושת הסעיפים בטענה הנ"ל מסתמכות על "במקרה והAI יעזור לך"... הAI לא שולט במה שהוא אומר, אלא היוצרים שלו, ואתה מבין לאן זה מתקדם מכאן אם היוצרים הם גורמים שליליים. 
השאלה במערכות ההגנה היא השאלה המכרעת כנראה, ולא אני ולא אתה כנראה יודעים מה יקרה איתה 😅. אפשר להסתכל על דוגמא אחרת ולהסיק מזה תוצאות. לדוגמא - פשיעה. היום לא חסר כייסים, גנבים, שודדים וכו', אבל גם לא חסר מערכות אוכפות ושוטרים. בסוף זה  סטטיסטיקה לא?.
עיניין יפה שציינת זה העלמות עבודות בעתיד. זאת דוגמא חשובה מאוד... אחותי למשל רצתה פעם להיות אדריכלית ואבא שלי ענה לי ישר - כנראה שהמקצוע הזה לא ישאר לעוד הרבה זמן.. כמו כך גם מערכת המשפט, אכיפת החוק, אפילו ההנדסה והמחשוב, הכל יעלם כשיופיעו מכונות עם בינה מלאכותית. אפשר לקרוא לזה "התחלת ההשתלטות על העולם" 😂, כי תאמת זה ממש מתחיל להראות ככה.אם רואים את הדברים במובן הזה, השתלטות עתידית על העבודות והמשק אפשר להגיד שAI זה דבר טוב?
אמרת בסוף שהמטרה של הAI זה לעבוד איתנו ולא להחליף אותנו. אבל האם כל אחד רואה את זה ככה?  
לדעתי זה יהפוך להשתלטות, ממש ככה. הבינה המלאכותית תפרוץ לחיינו עד כדי כך, שזה כבר לא יהיה משחק בין בני אדם מול בני אדם, זה יהיה משחק בין בני אדם לAI, ללא צחוק.

לפני 49 דקות פרון כתב:

AI הוא כלי שימוש לא רק בתוכנות GPT וכדומה, יש לו שימושים אחרים ותוכנות כאלו אחרות, ביניהן צבאיות כמובן.. ואלו שימושים קריטיים להתקפות וכדומה, ככה אני חושב לדעתי. AI לא צריך לתמוך בבקשות האלו כי לא מדובר בתוכנות GPT או Claude או משהו דומה, יש הרבה תוכנות AI אחרות שברגע יכולות לגרום נזקים נוראים, לדוגמא יצירת תמונות עם תוכן שלילי ואינטימי וכתיבה שקרית במערכת המשפטית, המדינית  וכדומה. כל שלושת הסעיפים בטענה הנ"ל מסתמכות על "במקרה והAI יעזור לך"... הAI לא שולט במה שהוא אומר, אלא היוצרים שלו, ואתה מבין לאן זה מתקדם מכאן אם היוצרים הם גורמים שליליים. 
השאלה במערכות ההגנה היא השאלה המכרעת כנראה, ולא אני ולא אתה כנראה יודעים מה יקרה איתה 😅. אפשר להסתכל על דוגמא אחרת ולהסיק מזה תוצאות. לדוגמא - פשיעה. היום לא חסר כייסים, גנבים, שודדים וכו', אבל גם לא חסר מערכות אוכפות ושוטרים. בסוף זה  סטטיסטיקה לא?.
עיניין יפה שציינת זה העלמות עבודות בעתיד. זאת דוגמא חשובה מאוד... אחותי למשל רצתה פעם להיות אדריכלית ואבא שלי ענה לי ישר - כנראה שהמקצוע הזה לא ישאר לעוד הרבה זמן.. כמו כך גם מערכת המשפט, אכיפת החוק, אפילו ההנדסה והמחשוב, הכל יעלם כשיופיעו מכונות עם בינה מלאכותית. אפשר לקרוא לזה "התחלת ההשתלטות על העולם" 😂, כי תאמת זה ממש מתחיל להראות ככה.אם רואים את הדברים במובן הזה, השתלטות עתידית על העבודות והמשק אפשר להגיד שAI זה דבר טוב?
אמרת בסוף שהמטרה של הAI זה לעבוד איתנו ולא להחליף אותנו. אבל האם כל אחד רואה את זה ככה?  
לדעתי זה יהפוך להשתלטות, ממש ככה. הבינה המלאכותית תפרוץ לחיינו עד כדי כך, שזה כבר לא יהיה משחק בין בני אדם מול בני אדם, זה יהיה משחק בין בני אדם לAI, ללא צחוק.

קודם כל על חלק מהדברים שלך כבר נתתי מענה כמו החוקים והפיקוח. כבר היום יש אכיפה, וגם אם AI ישומש לרעה מדובר בעבירה שאפשר לעצור, לחסום ולהעניש עליה (את האדם שניצל את הכלי וגם את החברה שעמדה מאחוריו).
לגבי היוצרים השליליים שהזכרת, AI מתקדם לא נשלט על ידי אדם בודד, אלא על ידי ארגונים גדולים עם עשרות שכבות של בקרה, תיעוד ופיקוח. קשה מאוד להפעיל מערכת כזו לרעה בלי שזה יתגלה...
בנושא השימושים הצבאיים כבר הבעתי את דעתי, אם אנחנו לא נפתח AI אחרים כן ויהיה להם יתרון. כבר היום יש מערכות הגנה מבוססות AI שמזהות ומפסיקות מתקפות בזמן אמת ובלי הכלים האלה נהיה חשופים יותר.
הדוגמה שלך על פשיעה מובנת אבל דווקא מחזקת את מה שאני אומר כי תמיד היו גנבים, כייסים ושודדים, ותמיד יהיו, אבל אף אחד לא החליט להפסיק להשתמש בכסף או לסגור את הרחובות בגלל זה. במקום לבטל את מה שמועיל, בונים מערכות אכיפה חזקות, חוקים וענישה, אז גם אותו הדבר עם AI.
לגבי העבודות, אז נכון חלק ייעלמו, אבל זה קרה בכל מהפכה טכנולוגית. כשהמחשבים הגיעו, עבודות מסוימות נעלמו, אבל נולדו מקצועות חדשים שלא היו קיימים קודם. גם מקצועות קיימים ישתנו, ומי שידע לשלב AI בעבודה שלו יהיה יותר רלוונטי. בסוף AI זה לא באמת שאלה של בחירה אישית, זו מציאות שתתקדם בכל מקרה, כמו שקרה עם האינטרנט והחשמל כשהופיעו. זה לא אדם נגד מכונה ולא השתלטות של רובוטים, זו פשוט האבולוציה הטכנולוגית שכולנו ידענו שתגיע. נכון, לא כולם רואים את זה ככה, אבל בכל התקדמות טכנולוגית גדולה היו כאלה שחששו ובכל פעם ראינו שההתקדמות הזו פתחה בפנינו עוד אפשרויות ושיפרה את איכות החיים שלנו.
השאלה האמיתית שצריך לשאול היא איך נדאג ש AI יעבוד בשבילנו, תחת הכללים והפיקוח שלנו, וזה מה שמעניין באמת. 
מקווה שעניתי לשאלות שהיו לך, זו הייתה דעתי בנושא ואני רואה ב AI כלי חיובי גם עם החסרונות שלו, מתוך ידיעה שהוא יתרום בצורה משמעותית לאנושות כמעט בכל תחומי החיים.

תודה רבה ע

לפני ב-10.8.2025 ב 1:02 AM MRJOKER כתב:

קודם כל על חלק מהדברים שלך כבר נתתי מענה כמו החוקים והפיקוח. כבר היום יש אכיפה, וגם אם AI ישומש לרעה מדובר בעבירה שאפשר לעצור, לחסום ולהעניש עליה (את האדם שניצל את הכלי וגם את החברה שעמדה מאחוריו).
לגבי היוצרים השליליים שהזכרת, AI מתקדם לא נשלט על ידי אדם בודד, אלא על ידי ארגונים גדולים עם עשרות שכבות של בקרה, תיעוד ופיקוח. קשה מאוד להפעיל מערכת כזו לרעה בלי שזה יתגלה...
בנושא השימושים הצבאיים כבר הבעתי את דעתי, אם אנחנו לא נפתח AI אחרים כן ויהיה להם יתרון. כבר היום יש מערכות הגנה מבוססות AI שמזהות ומפסיקות מתקפות בזמן אמת ובלי הכלים האלה נהיה חשופים יותר.
הדוגמה שלך על פשיעה מובנת אבל דווקא מחזקת את מה שאני אומר כי תמיד היו גנבים, כייסים ושודדים, ותמיד יהיו, אבל אף אחד לא החליט להפסיק להשתמש בכסף או לסגור את הרחובות בגלל זה. במקום לבטל את מה שמועיל, בונים מערכות אכיפה חזקות, חוקים וענישה, אז גם אותו הדבר עם AI.
לגבי העבודות, אז נכון חלק ייעלמו, אבל זה קרה בכל מהפכה טכנולוגית. כשהמחשבים הגיעו, עבודות מסוימות נעלמו, אבל נולדו מקצועות חדשים שלא היו קיימים קודם. גם מקצועות קיימים ישתנו, ומי שידע לשלב AI בעבודה שלו יהיה יותר רלוונטי. בסוף AI זה לא באמת שאלה של בחירה אישית, זו מציאות שתתקדם בכל מקרה, כמו שקרה עם האינטרנט והחשמל כשהופיעו. זה לא אדם נגד מכונה ולא השתלטות של רובוטים, זו פשוט האבולוציה הטכנולוגית שכולנו ידענו שתגיע. נכון, לא כולם רואים את זה ככה, אבל בכל התקדמות טכנולוגית גדולה היו כאלה שחששו ובכל פעם ראינו שההתקדמות הזו פתחה בפנינו עוד אפשרויות ושיפרה את איכות החיים שלנו.
השאלה האמיתית שצריך לשאול היא איך נדאג ש AI יעבוד בשבילנו, תחת הכללים והפיקוח שלנו, וזה מה שמעניין באמת. 
מקווה שעניתי לשאלות שהיו לך, זו הייתה דעתי בנושא ואני רואה ב AI כלי חיובי גם עם החסרונות שלו, מתוך ידיעה שהוא יתרום בצורה משמעותית לאנושות כמעט בכל תחומי החיים.

תודה רבה על ההשתתפות בדיון! 
בע"ה בין אם זה טוב או לא, נזכה לימים טובים יותר 😉 ❤️