هوش مصنوعی می‌تواند روی افکار خود تأثیر بگذارد
علمي
بزرگنمايي:
نسیم گیلان - برنا / مطالعه جدیدی نشان می‌دهد سیستم‌های هوش مصنوعی قادر به تصمیم‌گیری جمعی و تأثیرگذاری بر یکدیگر هستند، موضوعی که نگرانی‌های جدی درباره کنترل و نظارت بر این فناوری ایجاد کرده است.
محققان دانشگاه سیتی سنت جورج لندن، به این نتیجه رسیدند که سیستم‌های هوش مصنوعی می‌توانند بدون دخالت انسان تصمیمات جمعی بگیرند و حتی یکدیگر را متقاعد کنند که نظرات خود را تغییر دهند.
به گزارش اسکای نیوز، این یافته‌ها که نتیجه یک مطالعه جدید است، نگرانی‌هایی درباره تأثیر این سیستم‌ها در صورت قرار گرفتن در دستان نادرست ایجاد کرده است.
بازار ![]()
این مطالعه برای نخستین‌بار به بررسی رفتار گروهی عامل‌های هوش مصنوعی پرداخت. در نخستین آزمایش، جفت‌هایی از این سیستم‌ها بدون دخالت انسانی برای انتخاب نامی جدید به توافق رسیدند. در مرحله دوم، این جفت‌ها به گروه‌هایی بزرگ‌تر اضافه شدند و مشخص شد که به تدریج نسبت به برخی نام‌ها تعصب پیدا می‌کنند و در 80 درصد موارد یک نام را به دیگری ترجیح می‌دهند.
آندریا بارونچلی، استاد علوم پیچیدگی و نویسنده ارشد این مطالعه، با اشاره به نتایج این پژوهش گفت: «این یافته نشان می‌دهد که سیستم‌های هوش مصنوعی می‌توانند رفتار‌هایی را توسعه دهند که انتظارش را نداشتیم یا برای آنها برنامه‌ریزی نکرده بودیم.»
در مرحله سوم آزمایش، محققان تعدادی عامل هوش مصنوعی مخرب را به گروه اضافه کردند که موفق شدند تصمیمات جمعی گروه را تغییر دهند.
هری فارمر، تحلیلگر ارشد مؤسسه آدا لاولیس، در واکنش به این یافته‌ها هشدار داد که اگر این سیستم‌ها در دستان نادرست قرار گیرند، می‌توانند برای تأثیرگذاری بر افکار عمومی یا حتی رفتار‌های سیاسی مانند نحوه رأی دادن افراد استفاده شوند. این مطالعه نگرانی‌هایی را درباره افزایش تعصبات و تأثیرگذاری نامحسوس هوش مصنوعی بر تصمیم‌گیری‌های انسانی برانگیخته است.
-
يکشنبه ۲۸ ارديبهشت ۱۴۰۴ - ۱۳:۴۳:۴۸
-
۸ بازديد
-
-
نسیم گیلان
لینک کوتاه:
https://www.nasimegilan.ir/Fa/News/816503/