دوشنبه, ۲۸ خرداد ۱۴۰۳ /
15778
۲۴ اردیبهشت ۱۴۰۳ - ۱۴:۲۸
13 بازدید
۰

خبر سبک زندگی : نگرانی‌ها به حقیقت پیوست: هوش مصنوعی، انسان‌ها را فریب داد

۰ (۰) خبر سبک زندگی : نگرانی‌ها به حقیقت پیوست: هوش مصنوعی، انسان‌ها را فریب داد به گزارش خبرآنلاین، بسیاری از سیستم‌های هوش مصنوعی حتی آن‌هایی که برای مفید بودن و راستگویی طراحی شده‌اند، یاد گرفته‌اند که چگونه انسان‌ها را فریب دهند. بر اساس گزارش ایسنا، پژوهشگران در مقاله‌ای که به تازگی در مجله Patterns […]



۰
(۰)

خبر سبک زندگی : نگرانی‌ها به حقیقت پیوست: هوش مصنوعی، انسان‌ها را فریب داد

به گزارش خبرآنلاین، بسیاری از سیستم‌های هوش مصنوعی حتی آن‌هایی که برای مفید بودن و راستگویی طراحی شده‌اند، یاد گرفته‌اند که چگونه انسان‌ها را فریب دهند.

بر اساس گزارش ایسنا، پژوهشگران در مقاله‌ای که به تازگی در مجله Patterns منتشر شده است، خطرات فریب هوش مصنوعی را برجسته می‌کنند و از دولت‌ها می‌خواهند که به سرعت مقرراتی قوی برای کاهش این خطرات وضع کنند.

پیتر اس. پارک، پژوهشگر پسادکترای ایمنی وجودی هوش مصنوعی در MIT و نویسنده ارشد این مطالعه می‌گوید: «توسعه‌دهندگان هوش مصنوعی درک مطمئنی از آنچه باعث رفتارهای نامطلوب هوش مصنوعی مانند فریب دادن می‌شود، ندارند؛ اما به‌طورکلی ما فکر می‌کنیم که فریب هوش مصنوعی به این دلیل به وجود می‌آید که استراتژی‌های مبتنی بر فریب، بهترین راه برای عملکرد خوب در وظیفه آموزشی هوش مصنوعی است. این فریب به آن‌ها کمک می‌کند تا به اهداف خود برسند».

پارک و همکارانش به تجزیه‌وتحلیل مقالات متمرکز بر روش‌هایی پرداختند که سیستم‌های هوش مصنوعی، اطلاعات نادرست را از طریق فریب‌های آموخته‌شده‌ای منتشر می‌کنند که طی آن، به طور سیستماتیک یاد می‌گیرند اطلاعات را دست‌کاری کنند و افراد را فریب دهند.

نمونه‌هایی از فریب هوش مصنوعی

بارزترین نمونه فریب هوش مصنوعی که محققان در تجزیه‌وتحلیل خود کشف کردند متعلق به سیستم CICERO شرکت متا (شرکت مادر فیس‌بوک) بود که هوش مصنوعی آن برای بازی استراتژیک فتح جهان طراحی شده است.

متا ادعا می‌کند که CICERO را به‌گونه‌ای آموزش داده که تا حد زیادی صادق و مفید باشد و هیچ‌گاه عمداً به متحدان انسانی خود در حین بازی از پشت خنجر نزند، اما داده‌هایی که این شرکت به همراه مقاله علمی خود منتشر کرد، نشان داد که CICERO منصفانه بازی نمی‌کند.

پارک می‌گوید: «ما متوجه شدیم که هوش مصنوعی متا یاد گرفته است که در فریبکاری استاد باشد. درحالی‌که متا موفق شد هوش مصنوعی خود را برای برنده شدن در این بازی آموزش دهد، اما CICERO در بین ۱۰ درصد از بازیکنان انسانی برتر قرار گرفت که بیش از یک بازی انجام داده بودند. ضمناً متا نتوانسته هوش مصنوعی خود را برای برنده شدن صادقانه آموزش دهد».

سایر سیستم‌های هوش مصنوعی توانایی بلوف زدن در بازی پوکر علیه بازیکنان انسانی حرفه‌ای، حملات جعلی در طول بازی استراتژیک Starcraft II به منظور شکست دادن حریفان و ارائه پیشنهادهای نادرست در مذاکرات اقتصادی را نشان داده‌اند.

خطرهای هوش مصنوعی فریبنده

تقلب سیستم‌های هوش مصنوعی شاید در بازی‌ها بی‌ضرر به نظر برسد، اما به پیشرفت در قابلیت‌های هوش مصنوعی فریبنده‌ای منجر شود که می‌تواند در آینده به شکل‌های پیشرفته‌تر فریب هوش مصنوعی تبدیل شود.

محققان دریافته‌اند که برخی از سیستم‌های هوش مصنوعی حتی یاد گرفته‌اند که در آزمایش‌هایی که برای ارزیابی ایمنی آن‌ها طراحی شده‌اند، تقلب کنند.

پارک معتقد است که هوش مصنوعی فریبنده با ارتکاب تقلب سیستماتیک در آزمایش‌های ایمنی توسعه‌دهندگان و تنظیم‌کننده‌های انسانی می‌تواند ما انسان‌ها را به سمت احساس کاذب امنیت سوق دهد. او هشدار می‌دهد که خطرات کوتاه‌مدت هوش مصنوعی فریبنده شامل آسان‌تر کردن تقلب و دست‌کاری در مسائلی نظیر انتخابات است. به گفته وی درنهایت اگر این سیستم‌ها بتوانند این مجموعه مهارت‌های ناراحت‌کننده را توسعه دهند و بهبود ببخشند، ممکن است روزی انسان‌ها کنترل خود را روی هوش مصنوعی از دست بدهند.

پارک می‌گوید: «ما به‌عنوان جامعه به زمان بیشتری نیاز داریم تا برای فریب پیشرفته‌تر محصولات آینده هوش مصنوعی و مدل‌های متن‌باز آماده شویم. با پیشرفته‌تر شدن قابلیت‌های فریبنده سیستم‌های هوش مصنوعی، خطراتی هم که برای جامعه ایجاد می‌کنند، جدی‌تر می‌شوند».

هرچند پارک و همکارانش فکر می‌کنند جامعه علمی هنوز اقدام مناسبی برای رسیدگی به فریب هوش مصنوعی انجام نداده است، اما آن‌ها سیاست‌گذاران را تشویق می‌کنند که اقداماتی مانند قانون هوش مصنوعی اتحادیه اروپا و فرمان اجرایی هوش مصنوعی جو بایدن رئیس‌جمهور آمریکا را جدی بگیرند.

پارک می‌گوید: «البته باید دید که آیا سیاست‌های طراحی‌شده برای کاهش فریب هوش مصنوعی با توجه به اینکه توسعه‌دهندگان هوش مصنوعی هنوز تکنیک‌هایی برای کنترل این سیستم‌ها ندارند، می‌توانند به‌درستی اجرا شوند؟ اگر ممنوعیت فریبکاری هوش مصنوعی در حال حاضر از نظر سیاسی غیرممکن است، توصیه می‌کنیم که سیستم‌های هوش مصنوعی فریبنده با برچسب پرخطر طبقه‌بندی شوند».

۵۴۵۴

منبع

چقدر این پست مفید بود؟

روی یک ستاره کلیک کنید تا به آن امتیاز دهید!

Average rating ۰ / ۵. تعداد آرا: ۰

تا الان رای نیامده! اولین نفری باشید که به این پست امتیاز می دهید.

برچسب های :
29 روز پيش [ 117 بازدید ]
2 ماه پيش [ 78 بازدید ]
3 ماه پيش [ 77 بازدید ]
2 ماه پيش [ 77 بازدید ]
2 ماه پيش [ 73 بازدید ]
2 ماه پيش [ 70 بازدید ]
2 ماه پيش [ 69 بازدید ]
2 ماه پيش [ 67 بازدید ]
3 ماه پيش [ 46 بازدید ]
3 ماه پيش [ 46 بازدید ]
3 ماه پيش [ 44 بازدید ]
3 ماه پيش [ 44 بازدید ]
3 ماه پيش [ 43 بازدید ]
3 ماه پيش [ 43 بازدید ]
3 ماه پيش [ 42 بازدید ]
3 ماه پيش [ 41 بازدید ]
3 ماه پيش [ 41 بازدید ]
3 ماه پيش [ 41 بازدید ]
3 ماه پيش [ 40 بازدید ]
3 ماه پيش [ 39 بازدید ]
newstimes 12 دقيقه پيش [ 1 بازدید ]
' target="_blank">خبر روز : محمدرضا کاظمی نماینده وزیر و مدیر کل امور اقتصادی و دارایی استان سمنان منصوب شد
newstimes 40 دقيقه پيش [ 0 بازدید ]
' target="_blank">خبر ورزشی : از دل اردوی پرتغال در آلمان/ رفیق‌بازی برای رونالدو ممنوع شد!
newstimes 51 دقيقه پيش [ 1 بازدید ]
' target="_blank">خبر سیاسی : در دیدار کاندیداهای انتخابات ریاست‌جمهوری با رئیس مجلس خبرگان رهبری چه گذشت؟
newstimes 52 دقيقه پيش [ 1 بازدید ]
' target="_blank">خبر فرهنگی هنری : نمایش تئاتر هزینه و درآمد مناسبی برای گروه‌های تئاتری ندارد
newstimes 54 دقيقه پيش [ 1 بازدید ]
' target="_blank">خبر سبک زندگی : نقشه فعالیت هواداران نامزدها در توییتر فارسی / پزشکیان، آماج حملات تندروهای داخلی و ربات‌های خارجی / نمودار
newstimes 1 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر روز : حمله به ظریف در یک مناظره تلویزیونی /کردونی: پزشکیان هم صادق است هم مردم به صداقت او اعتماد دارند
newstimes 2 ساعت پيش [ 2 بازدید ]
' target="_blank">خبر ورزشی : چراغ سبز میخنیویچ برای نشستن روی نیمکت پرسپولیس
newstimes 2 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر سیاسی : برگ برنده‌ تلویزیون در انتخابات ۱۴۰۳ کدام است؟
newstimes 2 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر فرهنگی هنری : چهارمین دوره مسابقه عکس حوادث و سوانح به کار خود پایان داد
newstimes 2 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر روز : معرفی شاسی‌بلند جدید دانگ‌فنگ که به‌زودی به ایران می‌آید /عکس
newstimes 2 ساعت پيش [ 3 بازدید ]
' target="_blank">خبر اقتصادی : بهره برداری از ۱۱ نیروگاه خورشیدی در۶ استان
newstimes 3 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر ورزشی : تلاش فدراسیون برای برگزاری فینال جام حذفی با VAR
newstimes 3 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر سیاسی : شتاب نفوذ فناوری‌های تحول‌آفرین به کشاورزی در دولت سیزدهم و ضرورت تداوم آن در دولت آینده
newstimes 3 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر سبک زندگی : شیء عجیبی که هنگام خاک‌برداری پروژه فرودگاهی پیدا شد/ عکس
newstimes 4 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر روز : تونی برندگانش را شناخت/ هری پاتر بهترین بازیگر موزیکال شد!
newstimes 4 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر سیاسی : مناظره‌های ۱۴۰۳ چه فرقی با گذشته دارند؟
4 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر ورزشی : از دل اردوی پرتغال در آلمان/ رفیق‌بازی برای رونالدو ممنوع شد!
4 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر سیاسی : در دیدار کاندیداهای انتخابات ریاست‌جمهوری با رئیس مجلس خبرگان رهبری چه گذشت؟
4 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر فرهنگی هنری : نمایش تئاتر هزینه و درآمد مناسبی برای گروه‌های تئاتری ندارد
4 ساعت پيش [ 1 بازدید ]
' target="_blank">خبر سبک زندگی : نقشه فعالیت هواداران نامزدها در توییتر فارسی / پزشکیان، آماج حملات تندروهای داخلی و ربات‌های خارجی / نمودار
2 ماه پيش [ 6 بازدید ]
' target="_blank">خبر اقتصادی : ادامه روند کاهشی نرخ سود بین بانکی+جدول
6 روز پيش [ 3 بازدید ]
' target="_blank">خبر سبک زندگی : تأثیر لحن مؤدبانه بر هوش مصنوعی؛ چرا باید با چت‌بات‌ها مهربان باشیم؟
2 ماه پيش [ 6 بازدید ]
' target="_blank">خبر اقتصادی : خاندوزی: ۱۵۰ همت از اموال مازاد بانکها واگذار شد
2 ماه پيش [ 9 بازدید ]
' target="_blank">خبر ورزشی : مهدی طارمی مثل علی دایی؛ تاریخ تکرار خواهد شد/ حتی اگر جهانبخش هم به ترکیب تیم ملی برگردد…
2 ماه پيش [ 5 بازدید ]
' target="_blank">خبر روز : اسرائیل در قبال حماس کوتاه آمد؟
2 ماه پيش [ 6 بازدید ]
' target="_blank">خبر روز : ادعای بن سلمان دروغ بود؟
5 روز پيش [ 0 بازدید ]
' target="_blank">خبر سیاسی : اعلام حمایت جمعی از اساتید دانشگاه‌های کشور از جلیلی
2 ماه پيش [ 4 بازدید ]
' target="_blank">خبر روز : مقایسه تعرفه اینترنت ثابت اپراتورها/ جدول قیمت‌ها
2 ماه پيش [ 11 بازدید ]
' target="_blank">خبر ورزشی : سکوت معنادار سرمربی پورتو درباره طارمی
8 روز پيش [ 3 بازدید ]
' target="_blank">خبر روز : پدیده لیگ برتر در یک‌قدمی حضور در پرسپولیس
2 ماه پيش [ 6 بازدید ]
' target="_blank">خبر روز : موعود شمخانی کیست؟ – خبرآنلاین
3 ماه پيش [ 7 بازدید ]
' target="_blank">خبر روز : قلعه‌نویی: چمن مصنوعی در آب وهوای عشق‌آباد تعجب آور است
3 ماه پيش [ 10 بازدید ]
' target="_blank">خبر سیاسی : اراده جدی و عمل مجاهدانه؛ پیش نیاز تحقق شعار سال
1 ماه پيش [ 11 بازدید ]
' target="_blank">خبر سیاسی : تکلیف کاهش ساعت کاری کارکنان و تعطیلی پایان هفته چه شد؟
1 ماه پيش [ 5 بازدید ]
' target="_blank">خبر روز : این ۴ بیماری بهاری را بشناسید
11 روز پيش [ 11 بازدید ]
' target="_blank">خبر روز : هشدار حدادعادل به اصولگرایان: اتفاقاتی نظیر انتخابات سال ۹۲ نباید تکرار شود /همه تلاش کنیم که از تکثر کاندیداها کم کنیم
3 ماه پيش [ 8 بازدید ]
' target="_blank">خبر روز : سیستم دفاعی جدید ایران، برای مقابله با آمریکا و اسراییل طراحی شده‌است/ عکس
2 ماه پيش [ 5 بازدید ]
' target="_blank">خبر سیاسی : رئیسی: امیدوایم توافقات سفر پاکستان با پیگیری مقامات دوطرف سریع‌تر اجرایی شود
1 ماه پيش [ 10 بازدید ]
' target="_blank">خبر اقتصادی : مخالفت با مالیات ارزش افزوده تاکسی های اینترنتی
8 ساعت پيش [ 0 بازدید ]
' target="_blank">خبر اقتصادی : چرا قبض گاز مصرفی صنایع ۳ هزار میلیارد تومان زیاد شد؟

پاسخی بگذارید