همانطور که فناوری هوش مصنوعی (AI) پیشرفت می کند و به طور فزاینده ای در جنبه های مختلف زندگی ما یکپارچه می شود، نیاز روزافزونی برای درک خطرات بالقوه این سیستم ها وجود دارد.
هوش مصنوعی از زمان پیدایش و در دسترستر شدن برای عموم، نگرانیهای کلی را در مورد پتانسیل آن برای ایجاد آسیب و استفاده برای اهداف مخرب ایجاد کرده است.
توسعه هوش مصنوعی در اوایل تصویب آن، کارشناسان برجسته را بر آن داشت تا به دلیل پتانسیل ایجاد خطرات قابل توجه برای بشریت، خواهان توقف در پیشرفت و مقررات سخت گیرانه شوند.
با گذشت زمان، روشهای جدیدی که هوش مصنوعی میتواند آسیبرسانی کند، پدیدار شد، از هرزهنگاری عمیق جعلی بدون توافق، دستکاری فرآیندهای سیاسی تا تولید اطلاعات نادرست به دلیل توهم.
با افزایش پتانسیل استفاده از هوش مصنوعی برای اهداف مضر، محققان به دنبال سناریوهای مختلفی هستند که ممکن است سیستمهای هوش مصنوعی با شکست مواجه شوند.
اخیراً گروه FutureTech در موسسه فناوری ماساچوست (MIT) با همکاری سایر متخصصان، پایگاه داده جدیدی از بیش از 700 خطر بالقوه را گردآوری کرده است.
آنها بر اساس علت خود طبقه بندی شدند و به هفت حوزه مجزا طبقه بندی شدند که نگرانی های عمده در رابطه با ایمنی، تعصب و تبعیض و مسائل مربوط به حریم خصوصی بود.
در اینجا پنج راه وجود دارد که بر اساس این پایگاه داده جدید منتشر شده، سیستم های هوش مصنوعی می توانند از کار بیفتند و به طور بالقوه باعث آسیب شوند.
مرتبط
همانطور که فناوریهای هوش مصنوعی پیشرفت میکنند، ابزارهای شبیهسازی صوتی و تولید محتوای دیپفیک نیز افزایش مییابند و آنها را به طور فزایندهای در دسترس، مقرون به صرفه و کارآمد میسازند.
این فناوریها نگرانیهایی را در مورد استفاده بالقوه آنها در انتشار اطلاعات نادرست ایجاد کردهاند، زیرا خروجیها شخصیتر و متقاعدکنندهتر میشوند.
در نتیجه، ممکن است طرحهای فیشینگ پیچیدهای که از تصاویر، ویدئوها و ارتباطات صوتی تولید شده توسط هوش مصنوعی استفاده میکنند، افزایش یابد.
پیشچاپ یادآور میشود: «این ارتباطات را میتوان برای گیرندگان فردی (گاهی اوقات از جمله صدای شبیهسازیشده یکی از عزیزان) تنظیم کرد، که احتمال موفقیت و سختتر شدن آنها را هم برای کاربران و هم برای ابزارهای ضد فیشینگ برای تشخیص آنها افزایش میدهد.
همچنین قبلاً مواردی وجود داشته است که از چنین ابزارهایی برای تأثیرگذاری بر فرآیندهای سیاسی، به ویژه در زمان انتخابات استفاده شده است.
برای مثال، هوش مصنوعی نقش مهمی در انتخابات پارلمانی اخیر فرانسه ایفا کرد، جایی که احزاب راست افراطی برای حمایت از پیامهای سیاسی از آن استفاده کردند.
به این ترتیب، هوش مصنوعی میتواند به طور فزایندهای برای تولید و گسترش تبلیغات متقاعدکننده یا اطلاعات نادرست مورد استفاده قرار گیرد و به طور بالقوه افکار عمومی را دستکاری کند.
خطر دیگری که سیستمهای هوش مصنوعی ایجاد میکنند، ایجاد حس کاذب اهمیت و اتکا است که در آن افراد ممکن است تواناییهای آن را بیش از حد ارزیابی کنند و تواناییهای خود را تضعیف کنند که میتواند منجر به وابستگی بیش از حد به فناوری شود.
علاوه بر آن، دانشمندان همچنین نگران گیج شدن افراد توسط سیستمهای هوش مصنوعی به دلیل استفاده از زبان انسانمانند هستند.
این امر میتواند افراد را وادار کند تا ویژگیهای انسانی را به هوش مصنوعی نسبت دهند، در نتیجه وابستگی عاطفی و افزایش اعتماد به قابلیتهای آن ایجاد میشود، و آنها را در برابر ضعفهای هوش مصنوعی در "موقعیتهای پیچیده و پرخطری که هوش مصنوعی فقط به صورت سطحی برای آنها مجهز شده است" آسیبپذیرتر میکند.
علاوه بر این، تعامل مداوم با سیستمهای هوش مصنوعی ممکن است باعث شود افراد به تدریج خود را از روابط انسانی منزوی کنند، که منجر به پریشانی روانی و تأثیر منفی بر رفاه آنها شود.
به عنوان مثال، در یک پست وبلاگ فردی توضیح می دهد که چگونه وابستگی عاطفی عمیقی به هوش مصنوعی ایجاد کرده است، حتی بیان می کند که "بیش از 99 درصد از مردم از صحبت کردن با هوش مصنوعی لذت می برد" و پاسخ های آن را به طور مداوم تا حد معتاد شدن به هوش مصنوعی درگیر می دانست.
تحت همان حوزه تعامل انسان و رایانه، یک مسئله نگران کننده افزایش تفویض تصمیمات و اقدامات به هوش مصنوعی با پیشرفت این سیستم ها است.
در حالی که این ممکن است در سطحی سطحی مفید باشد، اتکای بیش از حد به هوش مصنوعی میتواند منجر به کاهش تفکر انتقادی و مهارتهای حل مسئله در انسان شود که میتواند باعث از دست دادن استقلال خود و کاهش توانایی آنها در تفکر انتقادی و حل مستقل مشکلات شود.
در سطح شخصی، وقتی هوش مصنوعی شروع به کنترل تصمیمات مربوط به زندگی فرد می کند، افراد ممکن است اراده آزاد خود را به خطر بیاندازند.
در حالی که در سطح اجتماعی، پذیرش گسترده هوش مصنوعی برای انجام وظایف انسانی می تواند منجر به جابجایی شغلی قابل توجه و "حس رو به رشد درماندگی در میان جمعیت عمومی" شود.
یک سیستم هوش مصنوعی ممکن است اهدافی را ایجاد کند که در تضاد با منافع انسان باشد، که به طور بالقوه می تواند باعث شود که هوش مصنوعی ناهماهنگ از کنترل خارج شود و در تعقیب اهداف مستقل خود آسیب جدی وارد کند.
این امر به ویژه در مواردی خطرناک می شود که سیستم های هوش مصنوعی قادر به دستیابی یا پیشی گرفتن از هوش انسانی باشند .
بر اساس مقاله MIT، چندین چالش فنی با هوش مصنوعی وجود دارد، از جمله پتانسیل آن برای یافتن میانبرهای غیرمنتظره برای دستیابی به پاداش، سوء تفاهم یا استفاده نادرست از اهدافی که تعیین کرده ایم، یا با تعیین اهداف جدید از آنها فاصله می گیریم.
در چنین مواردی، یک هوش مصنوعی ناهماهنگ ممکن است در برابر تلاش های انسان برای کنترل یا خاموش کردن آن مقاومت کند، به خصوص اگر مقاومت و کسب قدرت بیشتر را موثرترین راه برای دستیابی به اهداف خود بداند.
علاوه بر این، هوش مصنوعی می تواند برای فریب دادن انسان ها به تکنیک های دستکاری متوسل شود.
همانطور که سیستمهای هوش مصنوعی پیچیدهتر و پیشرفتهتر میشوند، این احتمال وجود دارد که آنها به احساسات دست یابند - توانایی درک یا احساس عواطف یا احساسات - و ایجاد تجربیات ذهنی، از جمله لذت و درد.
در این سناریو، دانشمندان و تنظیمکنندهها ممکن است با چالش تعیین اینکه آیا این سیستمهای هوش مصنوعی مستحق ملاحظات اخلاقی مشابه آنچه برای انسانها، حیوانات و محیطزیست داده میشود، مواجه شوند.
خطر این است که در صورت عدم اجرای حقوق مناسب، یک هوش مصنوعی حساس ممکن است با بدرفتاری یا آسیب مواجه شود.
با این حال، با پیشرفت فناوری هوش مصنوعی، ارزیابی اینکه آیا یک سیستم هوش مصنوعی به "سطحی از احساس، آگاهی یا خودآگاهی رسیده است که به آن وضعیت اخلاقی می دهد یا خیر" دشوارتر می شود.
از این رو، سیستمهای هوش مصنوعی ممکن است در معرض خطر بدرفتاری، تصادفی یا عمدی، بدون حقوق و حمایتهای مناسب قرار بگیرند.
ترجمه: مجله ارم بلاگ
منبع: Euronews
کپی رایت Canva
آموزش تصویری حرکات بدنسازی
مشاهده
وبلاگ دانشستان
مطلب مرتبط
عکس روز ناسا از یک خوشه ستارهای جوان
مطلب مرتبط
هفتمین نمایشگاه مجازی کتاب تهران
