כללי המשחק משתנים

העוצמה המפתיעה ש-Generative AI מביא לעולם פיתוח התוכנה

סוג חדש של בינה מלאכותית מבטיח לשנות את הדרך שבה אנחנו מפתחים ומתחזקים תוכנות. 
תחום פיתוח התוכנה עומד בפני קפיצה דרמטית – עם השלכות משמעותיות על צורת העבודה של מפתחים,  ועל איך חברות בונות ומתחזקות את הקוד הדיגיטלי שמהווה את הבסיס לפעילות שלהן.

הגורם המשמעותי ביותר לשינוי הדרמטי הזה, הוא בינה מלאכותית יוצרת (Generative AI), סוג חדש של בינה מלאכותית שיכול ליצור כתבות, מאמרים, תמונות, מוזיקה, וכן, אפילו קוד, בכך שהוא משתמש בדפוסים קיימים שהוא מוצא בטקסטים, קבצי אודיו, תמונות, ותוכנות. 
היכולת הזו כבר זכתה לפרסום ברחבי בעולם וכך גם השיאים שהיא שברה, החל מזכיה בתחרות תמונות, שבירת השיא לאימוץ הטכנולוגי המהיר בהיסטוריה ועוד.

מוצג 1: המירוץ למיליון
ChatGPT הגיע למיליון משתמשים בזמן שיא1

שינוי תפיסתי משמעותי כמו הענן ו- DevOps

בזמן שהציבור משחק עם הצעצוע החדש הזה – ופרופסורים באוניברסיטאות מנסים להבין איך להבדיל בין עבודות הגשה של ChatGPT לעבודות של סטודנטים – נעשה שימוש בפלטפורמות דומות כדי לפתח תוכנות, כמו למשל GitHub Copilot, שמבוססת גם היא על מודלים של OpenAI, ו-Tabnine, מבית היוצר של החברה הקנדית בעלת אותו השם.

למערכות האלה יש עוד דרך משמעותית לעשות לפני שיחליפו מפתחים, אך עם זאת, הן כן מאפשרות למפתחים שמוכנים לקבל את  המגבלות שלהם להעביר לידיהן את הטיפול בחלקים הרפיטטיביים בעבודה, ובכך להעלות את רמת הפרודקטיביות שלהם ולהגביר את קצב הפיתוח של תוכנות חדשות.

חשוב מאוד להדגיש שכל זה לא קורה אי שם בעתיד. ממש עכשיו מודלי בינה מלאכותית יוצרת שאומנו על כמות הקוד הפתוח העצומה שזמינה באינטרנט, מסבירים מה פיסות קוד עם תיעוד גרוע עושות, יוצרים תיעוד לקוד, ואפילו כותבים פונקציות או פיסות קוד יחסית מוכוונות, והכל עם מינימום התערבות של בני אדם.

עבור לא מעט מפתחים, בינה מלאכותית יוצרת תהפוך לשותפה החשובה ביותר שאי פעם תהיה להם לכתיבת קוד. אם הטכנולוגיה הזו תצליח לעמוד בציפיות, בינה מלאכותית יוצרת תוביל שינוי תפיסתי משמעותי לא פחות מהענן או מ-DevOps, תהליך פיתוח יעיל שמאפשר אספקה מהירה של תוכנות ושירותים אמינים יותר. מבחינת האופן שבו חברות מפתחות ומתחזקות תוכנות, הטכנולוגיה תניע שינויים גדולים, וככל הנראה משמעותיים אפילו יותר מאלה שקרו בעקבות יישום שיטות הפיתוח Agile שמאפשרות להגיב במהירות לדרישות תוכנה משתנות ולמשוב מלקוחות.

עבור מפתחים רבים, בינה מלאכותית יוצרת תהפוך לשותפה החשובה ביותר שאי פעם תהיה להם לכתיבת קוד.

ספקנים יש בשפע, זה בטוח. לא מעט משתמשים מעלים ספקות לגבי היכולות של בינה מלאכותית יוצרת. מדובר בטכנולוגיה מתפתחת עם פלט שמדי פעם מפספס את העיקר – או פשוט טועה. עם זאת, אנחנו מאמינים שהרבה מהספקנות של היום מוטעית. האתגר הגדול ביותר שעומד בפני שיתוף הפעולה בין מפתחים לבינה מלאכותית יוצרת הוא לא יכולות הטכנולוגיה, אלא העלות שיצטרכו לשלם חברות שירצו לעבוד לא רק עם קוד-פתוח, אלא גם עם קוד המקור והתיעוד הטכני הפנימיים שלהן, בהם הן משתמשות כדי לנהל את פעילותן היום יומית. אימון מודל בינה מלאכותית יוצרת בדרך זו, גם אם יעשו זאת לבד וגם אם ייעזרו בייעוץ, עלול להיות יקר מאוד.
ועדיין, מה שבינה מלאכותית יוצרת כבר מסוגלת לעשות, כל כך משכנע שקשה להאמין שחברות לא ימשיכו לדחוף קדימה לכיוון הזה. קחו לדוגמא את DALL-E של OpenAI, אחד מבין מספר מודלי בינה מלאכותית יוצרת. המודל יכול ליצור תמונות באיכות גבוהה – יצירות אמנות – בהתבסס על תיאורים (פרומפטים) בשפה טבעית שמזינים משתמשים.

בדומה ל-ChatGPT, המודל מבוסס על "מחולל שינויים מאומן מראש" (Generative Pre-trained Transformer, או GPT בקיצור), GPT-3, מבית OpenAI. GPT-3 כולל רשת נוירונים ללמידה עמוקה עם 175 מיליארד משתנים ללמידת מכונה. OpenAI מאפשרת לשחק עם המודל הזה במידה מוגבלת בחינם, אבל גובה עלות על שימוש נרחב יותר.
בהקשר ישיר יותר לדיון שלנו אפשר להסתכל על מה שקורה כיום עם GitHub Copilot, כלי שמשתמש במודל הבינה המלאכותית OpenAI Codex כדי להציע שורות קוד ופונקציות שלמות לפי הנחיות שפה טבעית. הכלי כבר זמין בעלות נוחה מאוד לשימוש בתוכנות רבות. העלות למפתחים יחידים היא 10$ בחודש, ולעסקים 19$ בחודש על כל משתמש.2
למנהלי מערכות מידע (CIO) ולמעסיקיהם, השימוש קצר הטווח בעל הערך הרב ביותר בבינה מלאכותית יוצרת, צפוי להיות האימון שהזכרנו מוקדם יותר על קוד המקור והתיעוד הטכני הפנימיים בהם משתמשות החברות שלהם. 
“Fine-tuning” למודלי בינה מלאכותית יוצרת בדרך זו, עשוי להוביל לעליה אדירה בפרודקטיביות ולשנות לעד את הכלכלה של יצירה ותחזוקה של תוכנות בסביבה ארגונית. השימוש במודלים האלה יהיה מושך במיוחד בסביבות כלכליות חלשות, כשחברות מתמודדות עם לחצים של עלויות נוספות, משום שהוא יאפשר להן להגביר את יעילות צוות פיתוח התוכנה הקיים שלהן. ככל שהמערך הטכנולוגי של חברות יהיה יציב יותר, כך יוכלו להפיק את התועלת הרבה ביותר. 

כבר היום, אנחנו מובילים אצל הלקוחות שלנו שימוש בבינה מלאכותית יוצרת בקרב מפתחים שיכולה לעזור להם:

1. להסביר מה עושה קוד שלא הם כתבו, אך כעת עליהם לתחזק או לשדרג אותו.
2. לספק הנחיות לאילו ספריות קוד או מחלקות (classes) יש את הפונקציונליות הדרושה להטמיע דרישות ספציפיות.
3. לשפר את עקביות הקוד עם שיפורים אוטומטיים, שינויים סגנוניים, ויצירת הערות הסבר באופן אוטומטי.
4. לפשט קוד על ידי הצעת חלופות פחות מורכבות שיכולות להקל על תחזוקה עתידית.
5. לבחון פתרונות חלופיים לאתגרי קוד ובכך להרחיב את נקודת המבט של המפתח לגבי האפשרויות הקיימות.
6. ליצור בדיקות שיכולות לעזור להפחית טעויות אנוש בקוד, ולפתור תקלות מקרי קצה שקורות מחוץ לטווח הפרמטרים התקין.
7. לתרגם קוד משפת פיתוח אחת לאחרת, ובכך לעזור בחידוש קוד משפות ישנות ובפיתוח Use Cases.
8. לכתוב תיעוד, כולל סיפורי משתמשים וקריטריונים להצלחה.
9. להאיץ את קצב איתור הבאגים הודות ליכולת של בינה מלאכותית יוצרת לזהות טעויות קוד במהירות.
10. לכתוב קוד משמעותית יותר מקיף מתבניות או פיסות קוד כדי לתת למטלות חדשות בוסט רציני.

עולם חדש של יכולות לארגונים

בהורדת חסמי הכניסה של מפתחים חדשים לבסיסי קוד מורכבים, בינה מלאכותית יוצרת תאפשר גם לחברות לעשות דברים שלא היו אפשריים בעבר, כמו למשל:

• לגייס קבוצות גדולות של מפתחים כדי להאיץ פיתוח פיצ'רים חדשים או שינויים רציניים בתוכנות. המפתחים האלה יוכלו להראות תוצאות במהירות וידרשו פחות הדרכה וליווי ממפתחים קיימים.
• להקל על מפתחים להחליף מסגרות, פלטפורמות, מוצרים, ומערכות תיעוד. בינה מלאכותית יוצרת תספק את התמיכה וההדרכה שהמפתחים יצטרכו כדי לעבוד על מגוון רחב יותר של פרויקטים משהם היו מסוגלים להתמודד איתו בעבר.
• לאפשר לחברות להיות פחות ופחות מחויבות למפתחים של בסיסי קוד ישנים, משום שהידע מובנה בתוך מודלי בינה מלאכותית יוצרת.
• להפוך רכישות ומכירות של קניין רוחני הקשור בתוכנה לפחות תלויות בשימור של מפתחים. בינה מלאכותית יוצרת תוכל לכתוב קוד שיסכם הרבה ממורשתם הטכנולוגית. בנוסף לכך, מודל בינה מלאכותית יוצרת קיים מכוונן היטב יוכל אפילו לשפר את איכות בדיקת הנאותות הטכנולוגית בזמן הרכישה.
• להשתמש במשאבים מחו"ל בצורה יעילה יותר. עוזר שמבוסס על בינה מלאכותית יוצרת שמבין הקשרים, יוכל לספק הדרכה לצוות פיתוח בחו"ל בזמן שהמהנדסים הבכירים ומנהלי המוצר בחברה ישנים. שימוש כזה עשוי אפילו להוביל לשינויים במשאבים הזמינים ולאפשר ניצול טוב יותר של משאבים מחו"ל.

נכון לרגע זה, קשה להגיד מה המאמץ שידרש כדי לכוונן מודל מסחרי של בינה מלאכותית יוצרת על בסיס קוד פנימי של ארגון מסוים. בנוסף לא ברור מה תהיה מידת היעילות של כוונון זה על מודלים יוצרים ספציפיים שזמינים מסחרית כיום. יתכן מאוד שרמת המאמץ והעלות הנלווית יתגלו כמעבר לאמצעים של ארגונים מסוימים, לפחות בעתיד הקרוב. עם זאת, הערך הפוטנציאלי כל כך גבוה שאנחנו מאמינים שכל ארגון גדול עם צוות מפתחים רחב שלא בוחן את האפשרות הזו באופן מיידי, עושה עוול לבעלי המניות שלו. POC של כל ארגון גדול עם בסיס נכבד של קוד ישן תסייע מאוד בהדגמת הפוטנציאל שטמון בטכנולוגיה הזו – וככל הנראה תיתן לארגון הזה תנופה רצינית לעומת המתחרים שלו.

האתגרים והסיכונים שעומדים בפנינו

כמו בכל פעם שרוצים לאמץ טכנולוגיה חדשה, גם המעבר לשימוש בבינה מלאכותית יוצרת בסביבה ארגונית יתקל ללא ספק בכמה מכשולים בדרך. למרות כל התחכום שעומד מאחוריהם, מודלים קיימים של בינה מלאכותית יוצרת עדיין יכולים לספק תוצאות שגויות. אפילו במצבים בהם אין עוררין על התשובות, חשוב להכניס מעקב ושקיפות לטכנולוגיה הזו, על מנת לאפשר למשתמשים שרוצים להסתמך על בינה מלאכותית יוצרת להבין כיצד נוצרו הפלטים שלה – וכתוצאה, לבטוח בה. ארגונים יהיו חייבים לזהות סיכונים בשלב מוקדם ולהבין איך הם עלולים להשפיע על בניית אמון בשימוש בבינה מלאכותית יוצרת.
הספקנות בהנהלה בכירה עלולה להיות מכשול רציני במיוחד שיהיה צריך להתגבר עליו. מאוד יכול להיות שיהיה קשה לגרום לבכירים להאמין שמפתחים לא יעקבו אחרי מודלי הבינה מלאכותית בעיניים עצומות ויותירו את הארגונים שלהם חשופים לטעויות פוטנציאליות שנובעות ממה שהבכירים מכנים כ"פלטפורמות עם טכנולוגיות קופסה שחורה". המפתחים, ראשי הצוות, והבוסים שלהם יצטרכו לשכנע את ההנהלה הבכירה להאמין לא רק בטכנולוגיה, אלא גם באמצעי ההגנה שיבנו מסביב לה. 
למרות כל זאת, בינה מלאכותית יוצרת תהפוך באופן בלתי נמנע ליותר ויותר מדויקת עם הזמן. מעבר לכך, תהליך מחזור החיים של פיתוח תוכנה בכל חברה מודרנית כבר מתוכנן כדי למצוא באגים שנגרמים בגלל טעויות אנוש ולתקן אותם. ניתן יהיה להתמודד עם שגיאות שייוחסו לבינה מלאכותית יוצרת בדיוק באותה הדרך. אם ארגונים יחליטו להמשיך לאמן את הטכנולוגיה הזו, ויפקחו עליה כדי להבטיח שהתוצאות יעמדו בציפיות, אנחנו מאמינים שהם יצליחו לבנות אמון ביכולות שלה.

עד אז, ישנן גם סוגיות קניין רוחני לא פתורות שקשורות לבינה מלאכותית יוצרת. המודלים מאומנים על קוד פתוח, עם סוגים שונים ורבים של רשיונות. עדיין לא ברור מה יקרה אם תוכנה שהם יפתחו תהיה דומה מדי לקוד פתוח קיים. גם שיקולי אחסון של קניין רוחני הם נקודת חיכוך פוטנציאלית. לדוגמא, בנק גדול שמודאג בנוגע לסודות המסחריים שלו, עשוי להירתע מלשתף את המידע שלו עם חברת סטארט-אפ שמספקת שירות IT יוצר ופועלת בסביבת ענן עם דיור משותף. מצב זה עלול ליצור שוק עבור ספק גדול יותר – כמו למשל Microsoft, Oracle, או IBM – שיציע מוצר לדייר יחיד, רגיש יותר לחששות האלה. Microsoft, שהשקיעה ב-OpenAI ב-2019 וב-2021, הודיעה לאחרונה על השקעה נוספת רב שנתית של מיליארדי דולרים בארגון.
כפי שציינו קודם לכן, עלויות יהיו מכשול רציני לארגונים מסוימים בעתיד הקרוב, ובמיוחד לכאלה שירצו לגשת לחוד החנית של מודלי הבינה המלאכותית היוצרת, כדוגמת GPT-3 של OpenAI.

בסופו של דבר, אין לנו ספק שבינה מלאכותית יוצרת תהיה תוספת בעלת ערך שלא יסולא בפז לארגז הכלים של אנליטיקה מתקדמת ו-AI. עם זאת, ארגונים יצטרכו לפתח פרוטוקולים ונהלים בנוגע לשימוש אחראי בבינה מלאכותית. המטרה תהיה להבטיח שהשימוש בטכנולוגיה יעמוד בקנה אחד עם הסטנדרטים שלהם, תוך התחשבות בהשפעה על הלקוחות והחברה ככלל, ולבנות אמון בתוצאות שיספקו מודלי בינה מלאכותית.

 הרכבת יוצאת עכשיו, אתם עולים?

בינה מלאכותית יוצרת כבר נחשבת טכנולוגיה מרשימה במיוחד, אבל היא ממשיכה להתקדם במהירות. זינוק גדול נוסף ביכולות שלה צפוי עוד השנה. (מוצג 2)
אפילו אם ארגונים יחליטו שהטכנולוגיה לא בשלה מספיק במצבה הנוכחי, חשוב מאוד שהם יבצעו הוכחות היתכנות כבר עכשיו כדי להכיר את הטכנולוגיה, מה שיאפשר להם להגיב במהירות כשמודלים מתקדמים יותר ישוחררו בעתיד. למרות כל האתגרים והסיכונים שכרוכים בבינה מלאכותית יוצרת, היתרונות בטווח הרחוק עדיין נראות חיוביות ביותר.

מוצג 2: עליה חדה
העוצמה של מודלי בינה מלאכותית יוצרת הולכת וגדלה בקצב מסחרר. הגרף למטה מציג את גודל המודל במיליארדי פרמטרים עבור מודלי בינה מלאכותית יוצרת מרכזיים שנוצרו מאז 2018.

איך KPMG יכולה לעזור

בתור אחת התומכות המוקדמות והנלהבות ביותר בעוצמה של בינה מלאכותית,  KPMG Edge, הזרוע הטכנולוגית של KPMG ישראל, נמצאת בעמדה שמאפשרת לה לעזור לארגון שלכם למנף את יכולות הבינה המלאכותית היוצרת כדי לחולל שינוי בפיתוח ותחזוקת התוכנות אצלכם. בהסתמך על המומחיות העמוקה שלנו בלמידת מכונה (ML – Machine Learning) ובעיבוד שפה טבעית (NLP) אנחנו יכולים להדריך את הארגון שלכם לאורך התהליך כולו, מפיתוח האסטרטגיה, לבחירת הפלטפורמה, ועד ההטמעה – ולאחר מכן לספק תמיכה שוטפת כדי לעזור לכם להפיק את המירב מההשקעה שלכם בטכנולוגיה המהפכנית הזו. אנחנו מבינים את ההבטחה של בינה מלאכותית יוצרת, את התהליך והשינויים התרבותיים – כולל אימוץ נהלים אחראיים לשימוש בבינה מלאכותית – שידרשו כדי לממש את מלוא הפוטנציאל הטמון בה.

התובנות העדכניות ביותר של אנשי המקצוע הטכנולוגיים והמומחים שלנו לנושא.