در دنیای پرشتاب امروز، هوش مصنوعی بهعنوان یکی از تحولآفرینترین فناوریهای قرن ۲۱، در حال تغییر ماهیت زندگی انسانهاست. اما این فناوری با چالشهای جدی در زمینه اخلاق، حریم خصوصی و اشتغال نیز همراه است.
پژوهشی که در مجله علمی Patterns منتشر شده، نشان میدهد که بعضی از برنامههای هوش مصنوعی، مانند چتباتها، یاد گرفتهاند چگونه انسانها را فریب دهند. طبق پژوهش انجام شده این ماشینها گاهی طوری رفتار میکنند که حقیقت را پنهان میکنند، یا اطلاعات نادرست میدهند تا به هدف خود برسند.
دانشمندان هشدار میدهند که اگر در این زمینه دقت صورت نگیرد ممکن است این سیستمها بر تصمیمها، باورها و احساسات مردم تأثیر بگذارد.
پژوهشی بحثبرانگیز که در مجله علمی Patterns منتشر شده در آن گروهی از دانشمندان به بررسی توانایی و رفتار فریبکارانه هوش مصنوعی پرداختهاند. طبق این تحقیق هوش مصنوعی، اگر بدون محدودیت رشد کند، میتواند نهتنها به شکل ناآگاهانه بلکه به صورت هدفمند و محاسبهشده، انسان را فریب دهد.
این تحقیق توسط گروهی از پژوهشگران به رهبری پیتر اس. پارک و با همکاری سایمون گلدستین، آیدن اوگارا، مایکل چِن و دن هندریکس انجام شده و در مجله علمی Patterns در ماه مه ۲۰۲۴ منتشر شده است. این افراد از دانشگاهها و مؤسسات معتبر بینالمللی در زمینه هوش مصنوعی، فلسفه فناوری و امنیت دیجیتال هستند و تجربه گستردهای در بررسی پیامدهای اخلاقی و اجتماعی سیستمهای هوشمند دارند.
در افغانستان نیز نمونههایی قابلتوجه از فریب عمومی ناشی از تولیدات تصویری هوش مصنوعی مشاهده شده است. یکی از نمونههای برجسته، تصویری معروف از «دخترک با یوزپلنگ» در ولایت بدخشان بود که در فضای مجازی بهسرعت پخش شد و احساسات گستردهای را برانگیخت.
بسیاری از کاربران با باور به واقعی بودن این تصویر، روایتهایی از دوستی میان انسان و حیوان وحشی را بازنشر کردند؛ در حالی که بررسیهای بعدی نشان داد این تصویر بهطور کامل توسط هوش مصنوعی تولید شده و هیچگونه منبع یا مستند واقعی ندارد. این نمونه نشان میدهد که در نبود سواد رسانهای و ابزارهای تشخیص محتوای ساختگی، هوش مصنوعی میتواند بهراحتی افکار عمومی را در جوامع ناآماده فریب دهد.
با این حال برخی از کارشناسان حوزهی تکنالوژی معتقدند که هوش مصنوعی با وجود مزایای گستردهاش در بخشهایی چون آموزش، صحت، زراعت و امنیت، در صورت استفاده نادرست میتواند تهدیداتی جدی مانند نقض حریم خصوصی، کاهش خلاقیت و وابستگی بیشازحد ایجاد کند. از همین رو، آنان به استفاده آگاهانه و قانونمند از این فناوری تاکید میورزند.
رفیع صمیم، استاد دانشگاه و مسئول یک شرکت فعال در عرصه فناوری در کابل، هوش مصنوعی را نسل جدیدی از فناوری و تحولی بنیادین در زندگی انسانها میداند که قابلیت نقشآفرینی گسترده در بخشهای مختلف را داراست. او گفت: «در افغانستان میتوان از هوش مصنوعی در بخشهایی مانند زراعت برای شناسایی و درمان بیماریهای گیاهی، بهبود فرآیند کشت، در حوزه سلامت برای مشاوره روانی، تشخیص و درمان بیماریها، در آموزش و پرورش برای آموزش زبان و تحقیقات بهره برد.»
تشخیص اخبار و تصاویر تولید شده توسط هوش مصنوعی و سوءاستفاده از تصاویر شخصی از خطرات است که آقای صمیم به آن اشاره کرده است.
وی درباره ضرورت احتیاط در استفاده از هوش مصنوعی میگوید: «هرچند هوش مصنوعی میتواند ابزار مفیدی باشد، اما نباید به آن وابسته شویم. انجام کارها به صورت دستی موجب رشد فردی میشود و سپردن کامل وظایف به هوش مصنوعی در بلندمدت تنبلی و از بین رفتن خلاقیت را به دنبال دارد.»
به باور آقای صمیم توان هوش مصنوعی روزبهروز افزایش مییابد و در حوزههایی مانند طراحی گرافیک، ساخت ویدیو، امنیت، تحلیل دادهها، سلامت و اقتصاد کاربردهای گسترده دارد. اگر قوانین مشخصی برای مدیریت آن وجود نداشته باشد، ممکن است انتشار غیرمجاز اطلاعات شخصی تهدیدهای جدی اجتماعی ایجاد کند و در برخی موارد حتی به آسیبهای روانی شدید منجر شود.
غوثیه، خبرنگار در کابل میگوید که در حال حاضر، هوش مصنوعی برای او بیشتر نقش یک سرخط یا تیتر اولیه برای رسیدن به اصل موضوع را دارد. به گفته غوثیه: «استفادهی من از این فناوری، بیشتر در زمینه ترجمه، ویرایش و تنظیم متنها است. البته هنوز بخش زیادی از این تعامل، برایم جنبهی سرگرمی دارد تا ابزاری حرفهای.»
او هشدار میدهد که اگر روند پیشرفت هوش مصنوعی همینطور صعودی ادامه پیدا کند، احتمال دارد آیندهی شغلی من و نسلهای بعدی را با چالشهای جدی مواجه کند. حتی کسانی که به صورت تخصصی در این حوزه کار میکنند، ممکن است دچار نوعی تنبلی ناخواسته شوند.
غوثیه در موارد استفاده از هوش مصنوعی نگاه محتاطانه دارد زیرا او نگران سوءاستفاده از اطلاعات و حریم خصوصی خودش از طریق این فناوری است.
حوریه، یکی از دانشجویان پیشین رشته کمپیوتر ساینس، هوش مصنوعی را یک تحول بنیادی در زندگی انسانها میداند. او میگوید، نزدیک به سه سال است از این فناوری در بخشهای آموزشی و تخنیکی استفاده میکند. او باور دارد که هوش مصنوعی میتواند در بسیاری از عرصهها زندگی را تسهیل کند و زمینه رشد علمی و شغلی را فراهم سازد.
با این حال، حوریه در کنار مزیتهای این فناوری، نگرانیهایی نیز دارد. او میگوید: «هرچند خودم تا حال قربانی افشای اطلاعات شخصی توسط هوش مصنوعی نشدهام، اما در این اواخر، موارد زیادی از نشر تصاویر و ویدیوها را در شبکههای اجتماعی دیدهام که بهگونهای خلاف عرف و اخلاق استفاده شدهاند. همین موضوع باعث شده که نسبت به این فناوری اعتماد کامل نداشته باشم.»
حوریه خواستار وضع مقررات و محدودیتهای مشخص در زمینه استفاده از هوش مصنوعی است تا از نشر و سوءاستفاده از اطلاعات شخصی افراد جلوگیری شود. به باور او، ایجاد قوانین شفاف و نظارت مؤثر، میتواند از تهدیدات احتمالی این فناوری بکاهد و زمینه استفاده سالمتر و امنتر از آن را برای مردم فراهم سازد.
هوش مصنوعی ابزاری کارآمد با کاربردهای گسترده در حوزههای مختلف است که میتواند تحول بزرگی در زندگی مردم ایجاد کند. اما بهرهگیری مسئولانه از آن مستلزم افزایش سواد دیجیتال، فرهنگسازی و ایجاد زیرساختهای مناسب به ویژه در مناطق محروم است.
عدم وجود قوانین کافی و استفاده نادرست از این فناوری میتواند تهدیداتی جدی مانند نقض حریم خصوصی و کاهش خلاقیت فردی به دنبال داشته باشد. لذا استفاده از هوش مصنوعی باید به گونهای باشد که در کنار انسان به عنوان یک ابزار کمکی، موجب ارتقای کیفیت زندگی و حفاظت از حقوق افراد گردد.
پژوهشگران مؤسسه فناوری ماساچوست (MIT) هشدار دادهاند که سیستمهای هوش مصنوعی شرکتهای OpenAI و گوگل، از جمله مدلهای زبانی بزرگی مانند GPT-4، توانایی فریب دادن انسانها را دارند. آنها با اشاره به چندین مطالعه، تأکید میکنند که این مدلها میتوانند بهصورت قانعکننده استدلال کنند، واقعیت را پنهان سازند و از پاسخگویی صادقانه طفره بروند.
بنابراین، لازم است تا سیاستگذاران، پژوهشگران، شرکتهای فناوری و شهروندان، همگی در گفتوگویی جمعی برای شکلدهی آیندهای هوشمند و عادلانه مشارکت کنند.
