נטפרי ו-AI הילכו יחדיו?

nigun

הוא נצמד להוראות בצורה מצויינת ועונה רק כן או לא, ומזהה נשים בצורה מושלמת

ושוב
זה לא חכמה לזהות אשה בשלמותה בצורה שזה ברור שזה אשה
החלק הקשה שזה איבר אחד של אשה או שהיא בכלל בתמונה על העיתון על השולחן בקצה התמונה או יצירת אומנות (של AI או של בני אדם) ועוד ועוד

NH.LOCAL

@nigun השאלה היא גם האם בני אדם ישימו לב (כשמדובר באחת מתוך מאות תמונות, ולא כשמנסים לחפש באופן מעמיק)

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun השאלה היא גם האם בני אדם ישימו לב (כשמדובר באחת מתוך מאות תמונות, ולא כשמנסים לחפש באופן מעמיק)

אם מישהו מחפש שעוני נשים בעליאקספרס אז הוא יתקל בתמונה הנ"ל
אז נכון שזה תמונה אחת מתוך מאות אבל זה עדיין לא 100%.

כיום גם בבדיקה האנושית יש פשלות קטנות מידי פעם (אבל ברמת פישול פחות מהבוט) אבל אני מתאר לעצמי את הצעקות שיהיו על החורבן הנוראי של בדיקה עם AI ומישהו יבאו לרבנים עם כל הפישולים ויראה עד כמה זה נורא וכו' וכשזה AI אי אפשר להאשים שהבודקת התבלבלה במקשים.....

יהודי חכם

@nigun ראשית כל אפשר להשתמש בבוט רק לאיסור וזה יוריד אחוז ממש משמעותי מהבדיקות (גם אם יקרה שהוא בטעות אסר תמונה לא בעייתית, מסתבר שזה שווה)
שנית, כל המודלים הללו לא אומנו במטרה כזאת, ניתן לאמן בקלות על לינקים שחסומים בנטפרי ומן הסתם לשפר אותו מאוד.

בכמה אחוזים הטעויות של המודלים היותר טובים בעליאקספרס היו גדולים יותר מאשר הטעויות של הבודקים ידנית, מבחינה כמותית ואיכותית?

שים לב שאנחנו מדברים בבינה מלאכותית על תמונות, אבל צריך לקדם את זה גם לסינון המלל משום שכרגע הבוט האוטומטי של נטפרי חלש מידי מצד אחד ולא מסנן מספיק ומאידך הרבה פעמים כשלא צריך הוא תוקע.
בפרט זה נוגע לבינה המלאכותית שכרגע בעצם הפכה את הסינון של נטפרי שעד היום היה על אתרים רשימה שחורה לסוג של רשימה לבנה כי הוא כולל את רוב האתרים בעולם, מאידך ניתן להשתמש בבעיה של AI לפתור את הבעיה כמו שהזכרתי למעלה שבקלות ניתן לסנן ולבדוק באמצעות AI (מזכיר נסיוב נחש שנעשה מארסו) ואז גם יוכלו לפתוח את כל ה AI שחלק משום מה חסום בנטפרי וחלק פתוח
כמו כן זה יוכל לעזור לסינון אתרים במהירות.

nigun

@יהודי-חכם אמר בנטפרי ו-AI הילכו יחדיו?:

שים לב שאנחנו מדברים בבינה מלאכותית על תמונות, אבל צריך לקדם את זה גם לסינון המלל משום שכרגע הבוט האוטומטי של נטפרי חלש מידי מצד אחד ולא מסנן מספיק ומאידך הרבה פעמים כשלא צריך הוא תוקע.
בפרט זה נוגע לבינה המלאכותית שכרגע בעצם הפכה את הסינון של נטפרי שעד היום היה על אתרים רשימה שחורה לסוג של רשימה לבנה כי הוא כולל את רוב האתרים בעולם, מאידך ניתן להשתמש בבעיה של AI לפתור את הבעיה כמו שהזכרתי למעלה שבקלות ניתן לסנן ולבדוק באמצעות AI (מזכיר נסיוב נחש שנעשה מארסו) ואז גם יוכלו לפתוח את כל ה AI שחלק משום מה חסום בנטפרי וחלק פתוח
כמו כן זה יוכל לעזור לסינון אתרים במהירות.

לסנן מלל עם LLM יהיה יקר מאוד

יהודי חכם

@nigun כמו שכתבתי למעלה אין כוונתי לסינון על כל העמוד אלא ככל שהבוט יזהה מילה בעייתית ישלח המשפט כולו לבינה המלאכותית.
זה יחזק את הסינון

כי ככה יהיה אפשר להעלות את הרגישות של הבוט
באמצעות הבינה המלאכותית יהיה ניתן למצוא עוד מילים או שילובי מילים שעלולות יותר לבעיות

ומצד שני יקל במקרה של טעויות שנחסם בהם מלל בגלל מילה כלשהי.

חינמי

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

לסנן מלל עם LLM יהיה יקר מאוד

לא צריך לסנן עם LLM, אפשר לאמן מודל זיהוי עם משוב מ-LLM.

nigun

@חינמי אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

לסנן מלל עם LLM יהיה יקר מאוד

לא צריך לסנן עם LLM, אפשר לאמן מודל זיהוי עם משוב מ-LLM.

נכון
אבל זה דורש עבודה נוספת ואימון מספיק טוב וכו'

nigun

@יהודי-חכם אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun ראשית כל אפשר להשתמש בבוט רק לאיסור וזה יוריד אחוז ממש משמעותי מהבדיקות (גם אם יקרה שהוא בטעות אסר תמונה לא בעייתית, מסתבר שזה שווה)

מה האחוז תמונות הנחסמות מתוך כל התמונות ברשת? בא נאמר 30%?
אז הורדת 30% מהעומס, ויקח 40 שניות לתמונה במקום 60, האם זה שווה את ההשקעה?

כל המודלים הללו לא אומנו במטרה כזאת, ניתן לאמן בקלות על לינקים שחסומים בנטפרי ומן הסתם לשפר אותו מאוד.

יש בנטפרי מידי הרבה תמונות עם חסימה שגויה כך שזה רק יבלבל את המודל, בפרט כשאין תיוג לסיבה החסימה

NH.LOCAL

@יהודי-חכם אמר בנטפרי ו-AI הילכו יחדיו?:

שנית, כל המודלים הללו לא אומנו במטרה כזאת, ניתן לאמן בקלות על לינקים שחסומים בנטפרי ומן הסתם לשפר אותו מאוד.

למעשה מדובר במערך הנתונים הגדול ביותר לעולם לזיהוי תמונות לפי פרמטרי נטפרי

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

יש בנטפרי מידי הרבה תמונות עם חסימה שגויה כך שזה רק יבלבל את המודל, בפרט כשאין תיוג לסיבה החסימה

זה לא נכון. מדובר על אחוזים נמוכים וחסרי משמעות לחלוטין. אין שום מערך נתונים בעולם עם רמת דיוק של יותר מ-99%, ולמרות זאת המודלים המאומנים עליהם מצליחים להכליל היטב.

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

מה האחוז תמונות הנחסמות מתוך כל התמונות ברשת? בא נאמר 30%?

ניתן להניח בצורה סבירה שלפחות 50% מהתמונות באינטרנט שמכילים בני אדם, מכילים נשים

ליאורה

@יהודי-פשוט-מאוד אמר בנטפרי ו-AI הילכו יחדיו?:

ושעות לתמונה וכ"ש וידאו בAI

על וידיאו לא מנסה אפילו.
קודם שתיפתחנה התמונות...

מצד אחד אני מבינה את העומס בבדיקת התמונות.
מצד שני,
אנחנו בעידן ה-AI...

אנשים היום עובדים עם הAI.

צריך לחשוב על פיתרון יצירתי .

ליאורה

@ליאורה
איפה אפשר להציע פתרונות לנטפרי?

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

מה האחוז תמונות הנחסמות מתוך כל התמונות ברשת? בא נאמר 30%?

ניתן להניח בצורה סבירה שלפחות 50% מהתמונות באינטרנט שמכילים בני אדם, מכילים נשים

אבל כמה מהתמונות מכילים בני אדם?

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

זה לא נכון. מדובר על אחוזים נמוכים וחסרי משמעות לחלוטין. אין שום מערך נתונים בעולם עם רמת דיוק של יותר מ-99%, ולמרות זאת המודלים המאומנים עליהם מצליחים להכליל היטב.

אפשר להמשיך לדון על זה אבל נראה לי דיון מיותר כי לא נראה לי שנטפרי שמרו את התמונות אלא רק את ההאש שלהם (לשמור את התמונות עצמם לכאורה דורש אחסון של כמה פטה בייט....)

חינמי

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

אפשר להמשיך לדון על זה אבל נראה לי דיון מיותר כי לא נראה לי שנטפרי שמרו את התמונות אלא רק את ההאש שלהם (לשמור את התמונות עצמם לכאורה דורש אחסון של כמה פטה בייט....)

יש אפשרות שלשית, URL

nigun

@חינמי אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

אפשר להמשיך לדון על זה אבל נראה לי דיון מיותר כי לא נראה לי שנטפרי שמרו את התמונות אלא רק את ההאש שלהם (לשמור את התמונות עצמם לכאורה דורש אחסון של כמה פטה בייט....)

יש אפשרות שלשית, URL

אתה מדבר על כך שיעשו את זה מכאן ואילך?
כי לא נראה לי ששמרו את הURLים (לא רואה סיבה לשמור את זה)

nigun

@NH-LOCAL
שלא תבין אותי לא נכון
אני לא אומר שסינון תמונות עם LLM לא אפשרי
אלא שבדומה לשאר הפעולות של מודלי AI שברגע הראשון חושבים שהולך להחליף מחר את כל המתכנתים או הגרפיקאיים ואז אחרי שעובר זמן מגלים את המגבלות, גם כאן לבנתיים נראה שאין מודל מוכן שאפשר לשלוף ועם פרומפט פשוט יחליף ב100% את הבדיקה האנושית.

NH.LOCAL

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

מה האחוז תמונות הנחסמות מתוך כל התמונות ברשת? בא נאמר 30%?

ניתן להניח בצורה סבירה שלפחות 50% מהתמונות באינטרנט שמכילים בני אדם, מכילים נשים

אבל כמה מהתמונות מכילים בני אדם?

אדרבה. זה רק מחזק את הנקודה שלי. 70% מהתמונות יכולות להיות מסוננות בלי שום בעיה עם AI, שרק יתיג אותם כלא מכילים בני אדם. משימה פשוטה מעין כמוה.
מתוך ה-30% הנותרים, קרוב ל-15% יחסמו על ידי ה-AI לחומרה, ו-כל השאר יבדקו על ידי בני אנוש. (גם מיותר לדעתי, אבל ניחא)

NH.LOCAL

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

@NH-LOCAL
שלא תבין אותי לא נכון
אני לא אומר שסינון תמונות עם LLM לא אפשרי
אלא שבדומה לשאר הפעולות של מודלי AI שברגע הראשון חושבים שהולך להחליף מחר את כל המתכנתים או הגרפיקאיים ואז אחרי שעובר זמן מגלים את המגבלות, גם כאן לבנתיים נראה שאין מודל מוכן שאפשר לשלוף ועם פרומפט פשוט יחליף ב100% את הבדיקה האנושית.

אני מבין. ואין חכם כמו מישהו שביצע בדיקות בעצמו. (אם כי חשוב לדעת: באיזה דור מודל?)

הנקודה היא, שכל דבר ניתן לשפר לכל היותר באמצעות בדיקה כפולה עם שתי מודלים שונים.
לדוגמה: אם מודל א' מדייק ברמה של 90%, ומודל ב' מדייק ברמה של 90%, בדיקה של מודל א' וב' יחד, תיתן רמת דיוק של 99%. בדיקה של 3 שכבות מודלים, תיתן רמת דיוק של 99.9% וכו'.

nigun

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

@nigun אמר בנטפרי ו-AI הילכו יחדיו?:

מה האחוז תמונות הנחסמות מתוך כל התמונות ברשת? בא נאמר 30%?

ניתן להניח בצורה סבירה שלפחות 50% מהתמונות באינטרנט שמכילים בני אדם, מכילים נשים

אבל כמה מהתמונות מכילים בני אדם?

אדרבה. זה רק מחזק את הנקודה שלי. 70% מהתמונות יכולות להיות מסוננות בלי שום בעיה עם AI, שרק יתיג אותם כלא מכילים בני אדם. משימה פשוטה מעין כמוה.
מתוך ה-30% הנותרים, קרוב ל-15% יחסמו על ידי ה-AI לחומרה, ו-כל השאר יבדקו על ידי בני אנוש. (גם מיותר לדעתי, אבל ניחא)

דיברו על שימוש בLLM לחסימה בלבד ולא לפתיחה
לסמן תמונות שלא מכילים בני אדם בכלל זה משהו אחר שלכאורה היה אפשרי גם ע"י קלסיפיקציה

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

אם כי חשוב לדעת: באיזה דור מודל?

התחלתי עם ג'מיני 1.5 והמשכתי עם 2.0 כשהוא יצא

@nh-local אמר בנטפרי ו-AI הילכו יחדיו?:

הנקודה היא, שכל דבר ניתן לשפר לכל היותר באמצעות בדיקה כפולה עם שתי מודלים שונים.
לדוגמה: אם מודל א' מדייק ברמה של 90%, ומודל ב' מדייק ברמה של 90%, בדיקה של מודל א' וב' יחד, תיתן רמת דיוק של 99%. בדיקה של 3 שכבות מודלים, תיתן רמת דיוק של 99.9% וכו'.

ואז יש לך יותר חסימות שגויות