پنجشنبه, ۳۱ خرداد ۱۴۰۳ /
18270
۰۹ خرداد ۱۴۰۳ - ۳:۳۹
3 بازدید
۰

خبر سبک زندگی : آن پیراهن معروف چه رنگی بود، آبی-مشکی یا سفید-طلایی؟ هوش مصنوعی هم اشتباه کرد!

۰ (۰) خبر سبک زندگی : آن پیراهن معروف چه رنگی بود، آبی-مشکی یا سفید-طلایی؟ هوش مصنوعی هم اشتباه کرد! تینا مزدکی: سیستم بینایی ما انسان‌ها به‌گونه‌ای فرگشت یافته است که اجسام را به رنگ‌های ثابت در ذهن ما ثبت می‌کند؛ بنابراین چه زمان طلوع خورشید و چه زمانی که هوا تاریک است، حتی اگر […]



۰
(۰)

خبر سبک زندگی : آن پیراهن معروف چه رنگی بود، آبی-مشکی یا سفید-طلایی؟ هوش مصنوعی هم اشتباه کرد!

تینا مزدکی: سیستم بینایی ما انسان‌ها به‌گونه‌ای فرگشت یافته است که اجسام را به رنگ‌های ثابت در ذهن ما ثبت می‌کند؛ بنابراین چه زمان طلوع خورشید و چه زمانی که هوا تاریک است، حتی اگر برگ رنگ‌های مختلفی را منعکس کنند، شما بازهم برگ‌ها را سبز می‌بینید. چنین انطباقی در مغز ما باعث دیدن رنگ‌های کاذب و درنتیجه خطای دید می‌شود. پژوهشگران درآزمایشی، GPT-V4 (نسخه اخیر ChatGPT) را در معرض نوعی فریب‌ بصری قرار دادند که موجب خطای دید در افراد می‌شود. پاسخ‌های این ربات اغلب با پاسخ‌های احتمالی افراد مطابقت داشت.

ازآنجایی‌که دانشمندان، GPT را با تصویری که خطای دید رنگی داشت امتحان کردند، در ابتدا تصور کردند که شاید این ربات داده‌های تصاویر را پردازش می‌کند و با حذف بخشی از آن‌ها به پاسخ می‌رسد. اما به گفته OpenAI، چت‌جی‌پی‌تی دمای رنگ یا سایر ویژگی‌های تصویر را قبل از تفسیر GPT-V4 تنظیم نمی‌کند. بنابراین محقق این آزمایش بر این باور است که این امکان وجود دارد که ربات، زبان بینایی را یاد گرفته و رنگ را در متن تفسیر کند، اشیاء درون تصویر را در مقایسه با یکدیگر ارزیابی کند و پیکسل‌ها را بر این اساس، مشابه آنچه مغز انسان انجام می‌دهد، ارزیابی کند.

محققی دیگر که با این نظر موافق است، توضیح می‌دهد که این مدل می‌تواند رنگ‌ها را مانند انسان‌ها به‌صورت متنی یاد بگیرد،  شیئی را شناسایی کند و برای شکل ظاهری این شیء پاسخ داشته باشد. به‌عنوان‌مثال، در مورد لباسی که چند سال قبل در فضای مجازی موردبحث قرارگرفته بود، دانشمندان فکر می‌کنند که افراد مختلف، بر اساس فرضیات خود در مورد منبع نوری که باعث دیده شدن رنگ پارچه می‌شود، رنگ‌ها را به دو روش متفاوت تفسیر کردند.

او می‌گوید این واقعیت که مدل هوش مصنوعی می‌تواند تصاویر را به روشی مشابه ما تفسیر کند، به درک ما از اینکه AI چگونه مجموعه مهارت‌های مشابهی را توسعه می‌دهد، کمک می‌کند. به بیان ساده‌تر اگر الگوریتمی که از داده‌های آموزشی زیادی تغذیه می‌کند، شروع به تفسیر ذهنی رنگ‌ها کند، به این معنی است که ادراک انسان و ماشین ممکن است حداقل در این مورد نزدیک به هم باشند.

بااین‌حال همان‌طور که مطالعات اخیر نشان می‌دهد، این مدل‌ها در موارد دیگر به‌هیچ‌وجه مانند ما رفتار نمی‌کنند. این واقعیتی است که تفاوت‌های کلیدی را بین نحوه «دیدن» مردم و ماشین‌ها به جهان نشان می‌دهد. برخی از محققان دریافته‌اند که مدل‌های ترانسفورماتور توسعه‌یافته زبان بینایی جدید به توهمات متناقض پاسخ می‌دهند. گاهی اوقات آن‌ها مانند انسان پاسخ می‌دهند. در موارد دیگر، آن‌ها پاسخ‌های کاملاً منطقی و عینی دقیق ارائه می‌دهند. اما گاهی اوقات پاسخ‌های آن‌ها به‌گونه‌ای است که گویا نتیجه توهم است.

انگیزه پشت چنین مطالعاتی آن نیست که بخواهیم ثابت کنیم انسان‌ها و هوش مصنوعی شبیه یکدیگرند. تفاوت اساسی بین آن‌ها این است که مغز ما پر از اتصالات غیرخطی و حلقه‌های بازخوردی است که سیگنال‌ها را به عقب و جلو می‌فرستند.

یک عصب‌شناس محاسباتی از دانشگاه یورک در اونتاریو که در آزمایش‌های خطای دید مشارکتی نداشت، می‌گوید: «همان‌طور که چشم‌ها و سایر دستگاه‌های حسی ما اطلاعاتی را از دنیای بیرون جمع‌آوری می‌کنند، این شبکه‌های تکراری به مغز ما کمک می‌کنند تا هر شکافی را پر کند. اگرچه برخی از شبکه‌های عصبی مکرر برای تقلید از این جنبه از مغز انسان ایجاد شده‌اند، بسیاری از مدل‌های یادگیری ماشینی طوری طراحی نشده‌اند که دارای اتصالات تکراری و دو جهته باشند».

محبوب‌ترین مدل‌های هوش مصنوعی ترانسفورماتور مولد بر توابع ریاضی مبتنی بر Feed Forward هستند. این بدان معناست که اطلاعات از طریق آن‌ها فقط در یک‌جهت حرکت می‌کند: از ورودی به خروجی. مطالعه نحوه واکنش چنین سیستمی از هوش مصنوعی به خطای دید، می‌تواند به دانشمندان کمک کند تا توانایی‌ها و سوگیری‌های این مدل‌های یادگیری ماشینی یک‌طرفه را بهتر درک کنند.

به گفته تیمی از دانشمندان کامپیوتر که چهار مدل زبان بینایی منبع باز را ارزیابی کردند، یکی از عوامل تأثیرگذار، اندازه مدل است. محققان دریافتند که مدل‌های بزرگ‌تر، یعنی مدل‌هایی که با وزن‌ها و متغیرهای بیشتری توسعه‌یافته‌اند، در مقایسه با مدل‌های کوچک‌تر، با پاسخ‌های انسان به خطاهای دید هماهنگ‌ترند.

به‌طورکلی، مدل‌های هوش مصنوعی که دانشمندان آزمایش کردند، به‌ویژه در تثبیت عناصر توهم‌آمیز در یک تصویر خوب عمل نکردند به‌طور میانگین کمتر از ۳۶ درصد دقت داشتند. آن‌ها به‌طور متوسط تنها حدود ۱۶ درصد موارد با پاسخ‌های انسان هم‌سو بودند. بااین‌حال، این مطالعه همچنین نشان داد که مدل‌ها در واکنش به انواع خاصی از خطای دید نسبت به سایر مدل‌ها با دقت بیشتری از انسان تقلید می‌کنند.

به‌عنوان‌مثال پاسخ این مدل‌ها در خصوص خطای دید، یکی از شبیه‌ترین خروجی‌های انسانی را به همراه داشت. محققان با روشی خاص از مدل‌ها خواستند تا در مورد تصاویر قضاوت کنند. آن‌ها در نظر گرفته بودند که اگر این هوش مصنوعی در پاسخ‌های خود ۷۵ درصد به ادراک خطای دید انسانی نزدیک باشند، این مدل را «انسان‌مانند» خطاب کنند.

در پژوهشی دیگر که قبلاً منتشرشده بود، محققان توانایی‌های GPT-۴V و Gemini-Pro گوگل را برای ارزیابی ۱۲ دسته مختلف از خطای دید آزمایش کردند. این‌ها توهمات شامل اشیاء غیرممکن است که به‌نوعی شکل‌های دوبعدی اجسامی هستند که نمی‌توانند در فضای سه‌بعدی وجود داشته باشند و توهمات تصویری پنهان که در آن سایه‌های اجسام در یک تصویر گنجانده می‌شوند بدون اینکه بلافاصله آشکار شوند.

در ۹ مورد از ۱۲ دسته، مدل‌ها در تشخیص آنچه در  خطای دید اتفاق می‌افتد، در مقایسه با افراد بدتر بودند و میانگین دقت ۵۹ درصد در مقابل ۹۴ درصد پاسخ‌دهندگان انسانی داشتند. اما در سه دسته خطای دید رنگ، زاویه و اندازه GPT-۴V به‌طور قابل‌مقایسه یا حتی کمی بهتر از بازبینان انسانی عمل کرد.

یکی از نویسندگان این پژوهش از آزمایشگاه هوش مصنوعی خدمات وب آمازون، بر این باور است که این تفاوت به آن بستگی دارد که تجزیه‌وتحلیل خطاهای دید و توهمات به استدلال کمی یا کیفی نیاز دارد. انسان‌ها در هر دو کار مهارت دارند، اما ممکن است مدل‌های یادگیری ماشینی آمادگی کمتری برای قضاوت بر اساس چیزهایی داشته باشند که به‌راحتی قابل‌اندازه‌گیری نیستند. هر سه دسته توهم که در آن‌ها دستگاه‌های هوش مصنوعی در تفسیر بهترین بودند، علاوه بر ویژگی‌های ذهنی شامل ویژگی‌های قابل‌اندازه‌گیری کمی نیز هستند.

دانشمندان می‌گویند برای استقرار مسئولانه دستگاه‌های هوش مصنوعی، باید آسیب‌پذیری‌ها و نقاط کور آن‌ها و همچنین مکان‌هایی را که تمایلات انسانی تکرار می‌شوند و نمی‌شوند، درک کنیم. همسو شدن یک مدل با انسان‌ها می‌تواند همان‌قدر که خوب باشد، بد هم باشد. همچنین در برخی موارد ابزارهایی مانند ابزارهای تشخیص پزشکی هوش مصنوعی که تصاویر رادیولوژی را تجزیه‌وتحلیل می‌کنند به این دلیل که در حالت آرمانی مستعد خطای بینایی نیستند، باعث خوش‌بینی نسبت به این نوع فناوری می‌شوند.

بنابراین، آزمایش خطای دید بر روی GPT-4V OpenAI و سایر مدل‌های بزرگ یادگیری ماشینی که اغلب به‌عنوان جعبه‌های سیاه توصیف می‌شوند می‌توانند آنچه را واقعا در سر هوش مصنوعی می‌گذرد  آشکار کند.

منبع: scientificamerican

۵۴۳۲۳

منبع

چقدر این پست مفید بود؟

روی یک ستاره کلیک کنید تا به آن امتیاز دهید!

Average rating ۰ / ۵. تعداد آرا: ۰

تا الان رای نیامده! اولین نفری باشید که به این پست امتیاز می دهید.

برچسب های :
1 ماه پيش [ 117 بازدید ]
3 ماه پيش [ 80 بازدید ]
2 ماه پيش [ 79 بازدید ]
2 ماه پيش [ 77 بازدید ]
2 ماه پيش [ 73 بازدید ]
2 ماه پيش [ 70 بازدید ]
2 ماه پيش [ 70 بازدید ]
2 ماه پيش [ 69 بازدید ]
3 ماه پيش [ 47 بازدید ]
3 ماه پيش [ 46 بازدید ]
3 ماه پيش [ 44 بازدید ]
3 ماه پيش [ 44 بازدید ]
3 ماه پيش [ 43 بازدید ]
3 ماه پيش [ 43 بازدید ]
3 ماه پيش [ 42 بازدید ]
3 ماه پيش [ 41 بازدید ]
3 ماه پيش [ 41 بازدید ]
3 ماه پيش [ 41 بازدید ]
3 ماه پيش [ 40 بازدید ]
3 ماه پيش [ 39 بازدید ]
newstimes 21 دقيقه پيش [ 0 بازدید ]
' target="_blank">خبر روز : خودروی این کاندیدای ریاست جمهوری سوزوکی است /همسرم جراح است و آپارتمانم ۲۰ سال ساخت /امیدوارم کارم به بازنشستگی نرسد و شهید شوم
newstimes 1 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر روز : محمد فاضلی و سیم آخر
newstimes 3 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر روز : آیت الله تنها یک رقیب داشت /هاشمی رفسنجانی با چند درصد مشارکت رئیس جمهور شد؟
newstimes 5 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر سیاسی : محسن رضایی: گفتمان اجماع، پس از انتخابات هم ادامه می‎‌یابد
5 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر روز : محمد فاضلی و سیم آخر
newstimes 5 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر روز : اظهارات عجیب جواد لاریجانی /مواضع پورمحمدی و پزشکیان از یک آبشخور است /جلیلی دقیق است، قالیباف ثروت!
newstimes 6 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر سیاسی : پرتاب جنجالی در برنامه زنده/ واکنش به دزدی جدید آمریکا/ اعترافی درباره «نصرالله»
newstimes 6 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر سبک زندگی : آسمان فردا شب را از دست ندهید؛ ماه دیدنی‌تر از هر زمان دیگری!
newstimes 6 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر روز : پورمحمدی: مردم با گوشت و پوست خود گرفتاری‌ها را لمس می‌کنند/ از کنار تحریم نمی‌توان به سادگی گذشت
newstimes 7 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر سیاسی : پورمحمدی: با کشمکش‌های جناحی نمی‌توان تحریم‌ها را شکست داد
7 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر روز : آیت الله تنها یک رقیب داشت /هاشمی رفسنجانی با چند درصد مشارکت رئیس جمهور شد؟
newstimes 7 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر فرهنگی هنری : کدام سینمایی‌ها نامزدهای انتخابات ریاست جمهوری را همراهی می‌کنند؟
newstimes 7 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر روز : رشد بیش از ٢ برابر خرید تضمینی گندم در گلستان
newstimes 8 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر سیاسی : زریبافان: برای برخورد با بداخلاقی‌ها و تهمت زدن‌ها باید مدعی العموم ورود کند
8 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر سیاسی : محسن رضایی: گفتمان اجماع، پس از انتخابات هم ادامه می‎‌یابد
newstimes 8 ساعت پيش [ 3 بازدید ]
' target="_blank">خبر فرهنگی هنری : تاریخ را روایت کنیم تا تاریخ‌سازی نکنند
newstimes 8 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر سبک زندگی : از «برگزاری هشتمین دوره مسابقات هوش مصنوعی امیرکبیر» تا «ساخت دستگاه موج‌نگار جهتی در داخل»
newstimes 8 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر روز : پاسخ به یک پرسش سیاست‌زده ؛ چه کسی واکسن کرونا وارد کرد؟
8 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر روز : اظهارات عجیب جواد لاریجانی /مواضع پورمحمدی و پزشکیان از یک آبشخور است /جلیلی دقیق است، قالیباف ثروت!
newstimes 9 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر ورزشی : این استقلالی خیلی تلاش کرد تا من در قطر بمانم/ حرف کیروش حرف همه بچه‌هاست
2 ماه پيش [ 6 بازدید ]
' target="_blank">خبر اقتصادی : فشار صهیونیست ها به اپل در پی جنجال پرچم فلسطین
1 ماه پيش [ 8 بازدید ]
' target="_blank">خبر روز : هشدار نارنجی هواشناسی برای این استان‌ها/ از آبگرفتگی تا بارش تگرگ
3 ماه پيش [ 7 بازدید ]
' target="_blank">خبر سیاسی : سردار پاکپور: آمادگی یگان‌های نیروی زمینی سپاه از حیث تجهیزاتی و نیروی انسانی مطلوب است
3 ماه پيش [ 11 بازدید ]
' target="_blank">خبر سبک زندگی : جایگزین سراتو به بازار آمد!/ عکس
1 ماه پيش [ 7 بازدید ]
' target="_blank">خبر سبک زندگی : بزرگ‌ترین توفان خورشید در راه زمین / آیا در ایران شاهد شفق قطبی خواهیم بود؟
22 روز پيش [ 3 بازدید ]
' target="_blank">خبر روز : سردار آزمون به سویا اسپانیا پیوست
4 روز پيش [ 2 بازدید ]
' target="_blank">خبر سیاسی : سردار پاکپور: برخی از نقاط پرورش تروریست‌های اجاره‌ای در کشورهای همجوار شناسایی شده‌اند
3 ماه پيش [ 7 بازدید ]
' target="_blank">خبر ورزشی : دلیل اصلی تردید یحیی برای جواب قطعی؛ چرا گل‌محمدی از این بازی پرمخاطره می‌ترسد؟
3 ماه پيش [ 9 بازدید ]
' target="_blank">خبر روز : جولان پلنگ زخمی در نوشهر/ در صورت مشاهده با این شماره تماس بگیرید+ عکس
2 ماه پيش [ 8 بازدید ]
' target="_blank">خبر اقتصادی : زمان اولین حراج سکه در سال جدید اعلام شد+شرایط
2 ماه پيش [ 12 بازدید ]
' target="_blank">خبر ورزشی : همه کار کردند تا استقلال قهرمان نشود/ یعنی چه که به مادرم بدترین فحش‌ها را می‌دهی؟/ اولین نفری بودم که به گل‌محمدی تبریک گفتم
2 ماه پيش [ 5 بازدید ]
' target="_blank">خبر سبک زندگی : بروزرسانی انقلابی اینستاگرام/ تولید عکس و فیلم با هوش‌مصنوعی/ فیلم
23 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر سیاسی : نمایندگان مجلس: وزارت نفت برای استخراج از میادین مشترک فعال‌تر باشد
3 ماه پيش [ 12 بازدید ]
' target="_blank">خبر روز : برای نگهداری رمز ارزها سراغ صرافی های داخلی و خارجی نروید
2 ماه پيش [ 3 بازدید ]
' target="_blank">خبر سیاسی : امروز ارتش و به‌ویژه پدافند هوایی در اوج آمادگی است
2 ماه پيش [ 5 بازدید ]
' target="_blank">خبر اقتصادی : هواشناسی ایران۱۴۰۳/۰۲/۰۴؛هشدار طغیان رودخانه ها در ۲۱ استان
6 روز پيش [ 6 بازدید ]
' target="_blank">خبر روز : یک پیش بینی از رئیس اتحادیه طلا و جواهر/ بهترین فرصت‌ برای مبادلات چه زمانی است؟
13 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر سبک زندگی : صادرات جنگنده‌های روسی سقوط کرده است، اما چرا؟
2 ماه پيش [ 15 بازدید ]
' target="_blank">خبر فرهنگی هنری : چرا تصویر خشن خدا را به تصویر می‌کشیم؟
16 روز پيش [ 3 بازدید ]
' target="_blank">خبر فرهنگی هنری : مردم در مناظرات انتخاباتی به دنبال جدل می‌گردند

پاسخی بگذارید