נטפרי ו-AI הילכו יחדיו?

NH.LOCAL

@nigun עבדת על זה עם @צדיק-תמים ?

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun עבדת על זה עם @צדיק-תמים ?

כן

יהודי חכם

@nigun עם איזה מודלים עבדת? ומה היו ההנחיות? ובאיזה סגנון טעויות הוא שגה?

nigun

@יהודי-חכם אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun עם איזה מודלים עבדת? ומה היו ההנחיות? ובאיזה סגנון טעויות הוא שגה?

בדקתי הרבה מודלים חלק בקוד סגור וחלקם בקוד פתוח
חלק סירבו לעשות הדרת נשים
חלק פספסו לגמרי שיש אשה בתמונה כי היא לא הייתה במרכז התמונה (גם מודלים יקרים)
חלק לא יודעים לענות בפורמט קבוע ומתחיל לענות שיש כאן רק תמונה של חץ ירוק ולא מבין איפה לחפש נשים.....
דווקא ג'מיני נותן ביצועים יפים במחירים טובים, אבל למשל פספס אם יש תמונה של יד עם שעון וברקע רואים ברך (זה צילום מלמעלה של מישהו יושב עם שעון על היד)
אם בוחנים את היד ואת הרגל לבד קשה להחליט האם זה אשה או גבר אבל השעון הוא בעיצוב נשי אז לבן אדם זה באופן אוטומטי מתפרש כרגל של אשה אבל המודל נצמד להוראות ואומר שלא רואה כאן אשה.
כמובן אפשר להוסיף עוד ועוד הוראות וכללים ויוצא ומן הכלל וכו וכו' אבל זה מייקר את העלות בדיקה לתמונה ועדיין לא הגעתי ל100%,בפרט ביצירות AI שיכול לצייר תמונה של ילד חרדי עם שביל בשיער ואז החליט שזה אשה בגלל הסגנון של השיער......

NH.LOCAL

@nigun נסה את Molmo 7B מודל קוד פתוח חדש ממש קטנטן, עם ההנחייה הפשוטה:
"Does the picture contain women or girls? Answer "Yes" or "No" only!"

הוא נצמד להוראות בצורה מצויינת ועונה רק כן או לא, ומזהה נשים בצורה מושלמת

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun נסה את Molmo 7B מודל קוד פתוח חדש ממש קטנטן, עם ההנחייה הפשוטה:
"Does the picture contain women or girls? Answer "Yes" or "No" only!"

הוא נצמד להוראות בצורה מצויינת ועונה רק כן או לא, ומזהה נשים בצורה מושלמת

הוא כבר לא כל כך חדש
בדקתי גם את אח שלו הגדול
הוא מהטובים בקוד פתוח אבל לא ראיתי יתרון אצלו על פני ג'מיני

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

הוא נצמד להוראות בצורה מצויינת ועונה רק כן או לא, ומזהה נשים בצורה מושלמת

ושוב
זה לא חכמה לזהות אשה בשלמותה בצורה שזה ברור שזה אשה
החלק הקשה שזה איבר אחד של אשה או שהיא בכלל בתמונה על העיתון על השולחן בקצה התמונה או יצירת אומנות (של AI או של בני אדם) ועוד ועוד

NH.LOCAL

@nigun השאלה היא גם האם בני אדם ישימו לב (כשמדובר באחת מתוך מאות תמונות, ולא כשמנסים לחפש באופן מעמיק)

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun השאלה היא גם האם בני אדם ישימו לב (כשמדובר באחת מתוך מאות תמונות, ולא כשמנסים לחפש באופן מעמיק)

אם מישהו מחפש שעוני נשים בעליאקספרס אז הוא יתקל בתמונה הנ"ל
אז נכון שזה תמונה אחת מתוך מאות אבל זה עדיין לא 100%.

כיום גם בבדיקה האנושית יש פשלות קטנות מידי פעם (אבל ברמת פישול פחות מהבוט) אבל אני מתאר לעצמי את הצעקות שיהיו על החורבן הנוראי של בדיקה עם AI ומישהו יבאו לרבנים עם כל הפישולים ויראה עד כמה זה נורא וכו' וכשזה AI אי אפשר להאשים שהבודקת התבלבלה במקשים.....

יהודי חכם

@nigun ראשית כל אפשר להשתמש בבוט רק לאיסור וזה יוריד אחוז ממש משמעותי מהבדיקות (גם אם יקרה שהוא בטעות אסר תמונה לא בעייתית, מסתבר שזה שווה)
שנית, כל המודלים הללו לא אומנו במטרה כזאת, ניתן לאמן בקלות על לינקים שחסומים בנטפרי ומן הסתם לשפר אותו מאוד.

בכמה אחוזים הטעויות של המודלים היותר טובים בעליאקספרס היו גדולים יותר מאשר הטעויות של הבודקים ידנית, מבחינה כמותית ואיכותית?

שים לב שאנחנו מדברים בבינה מלאכותית על תמונות, אבל צריך לקדם את זה גם לסינון המלל משום שכרגע הבוט האוטומטי של נטפרי חלש מידי מצד אחד ולא מסנן מספיק ומאידך הרבה פעמים כשלא צריך הוא תוקע.
בפרט זה נוגע לבינה המלאכותית שכרגע בעצם הפכה את הסינון של נטפרי שעד היום היה על אתרים רשימה שחורה לסוג של רשימה לבנה כי הוא כולל את רוב האתרים בעולם, מאידך ניתן להשתמש בבעיה של AI לפתור את הבעיה כמו שהזכרתי למעלה שבקלות ניתן לסנן ולבדוק באמצעות AI (מזכיר נסיוב נחש שנעשה מארסו) ואז גם יוכלו לפתוח את כל ה AI שחלק משום מה חסום בנטפרי וחלק פתוח
כמו כן זה יוכל לעזור לסינון אתרים במהירות.

nigun

@יהודי-חכם אמר בנטפרי ו-AI הילכו יחדיו?:

שים לב שאנחנו מדברים בבינה מלאכותית על תמונות, אבל צריך לקדם את זה גם לסינון המלל משום שכרגע הבוט האוטומטי של נטפרי חלש מידי מצד אחד ולא מסנן מספיק ומאידך הרבה פעמים כשלא צריך הוא תוקע.
בפרט זה נוגע לבינה המלאכותית שכרגע בעצם הפכה את הסינון של נטפרי שעד היום היה על אתרים רשימה שחורה לסוג של רשימה לבנה כי הוא כולל את רוב האתרים בעולם, מאידך ניתן להשתמש בבעיה של AI לפתור את הבעיה כמו שהזכרתי למעלה שבקלות ניתן לסנן ולבדוק באמצעות AI (מזכיר נסיוב נחש שנעשה מארסו) ואז גם יוכלו לפתוח את כל ה AI שחלק משום מה חסום בנטפרי וחלק פתוח
כמו כן זה יוכל לעזור לסינון אתרים במהירות.

לסנן מלל עם LLM יהיה יקר מאוד

יהודי חכם

@nigun כמו שכתבתי למעלה אין כוונתי לסינון על כל העמוד אלא ככל שהבוט יזהה מילה בעייתית ישלח המשפט כולו לבינה המלאכותית.
זה יחזק את הסינון

כי ככה יהיה אפשר להעלות את הרגישות של הבוט
באמצעות הבינה המלאכותית יהיה ניתן למצוא עוד מילים או שילובי מילים שעלולות יותר לבעיות

ומצד שני יקל במקרה של טעויות שנחסם בהם מלל בגלל מילה כלשהי.

חינמי

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

לסנן מלל עם LLM יהיה יקר מאוד

לא צריך לסנן עם LLM, אפשר לאמן מודל זיהוי עם משוב מ-LLM.

nigun

@חינמי אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

לסנן מלל עם LLM יהיה יקר מאוד

לא צריך לסנן עם LLM, אפשר לאמן מודל זיהוי עם משוב מ-LLM.

נכון
אבל זה דורש עבודה נוספת ואימון מספיק טוב וכו'

nigun

@יהודי-חכם אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun ראשית כל אפשר להשתמש בבוט רק לאיסור וזה יוריד אחוז ממש משמעותי מהבדיקות (גם אם יקרה שהוא בטעות אסר תמונה לא בעייתית, מסתבר שזה שווה)

מה האחוז תמונות הנחסמות מתוך כל התמונות ברשת? בא נאמר 30%?
אז הורדת 30% מהעומס, ויקח 40 שניות לתמונה במקום 60, האם זה שווה את ההשקעה?

כל המודלים הללו לא אומנו במטרה כזאת, ניתן לאמן בקלות על לינקים שחסומים בנטפרי ומן הסתם לשפר אותו מאוד.

יש בנטפרי מידי הרבה תמונות עם חסימה שגויה כך שזה רק יבלבל את המודל, בפרט כשאין תיוג לסיבה החסימה