هوش مصنوعی با سرعتی کمسابقه در حال توسعه است؛ سرعتی که همزمان با ایجاد امید درباره آینده فناوری، نگرانیهایی جدی درباره آینده کنترل انسان بر این فناوری به وجود آورده است.
به گزارش خبرگزاری مهر، روزنامه ایران نوشت: هوش مصنوعی با سرعتی کمسابقه در حال توسعه است؛ سرعتی که همزمان با ایجاد امید درباره آینده فناوری، نگرانیهایی جدی درباره امنیت، اشتغال، محیط زیست و حتی آینده کنترل انسان بر این فناوری به وجود آورده است. در یک سوی این میدان، دولتها و شرکتهای فناوری بر شتاب بخشیدن به توسعه هوشمصنوعی تأکید دارند و در سوی دیگر، گروهی از دانشمندان و مدیران فناوری نسبت به پیامدهای توسعه بدون نظارت کافی هشدار میدهند. در مرکز این رقابت، آمریکا و چین قرار دارند؛ رقابتی که باعث شده مسئله سرعت توسعه هوش مصنوعی، تنها یک بحث فناورانه نباشد و به موضوعی اقتصادی و راهبردی تبدیل شود.این موضوع مورد توجه سازمان ملل نیز قرار گرفته و بهتازگی پنل علمی این سازمان خواستار مهار فوری خطرات هوش مصنوعی پیش از وقوع فاجعه شده است.
سرعت بیشتر یا نظارت بیشتر؟
دونالد ترامپ، رئیسجمهور آمریکا از جمله چهرههایی است که بر حفظ شتاب توسعه هوش مصنوعی در این کشور تأکید دارد. دولت او توسعه این فناوری را بخشی از رقابت راهبردی آمریکا با چین میداند و با مقرراتی که از نگاه آن میتواند سرعت نوآوری را کاهش دهد، موافق نیست. او با تمام وجود میخواهد در این رقابت تنگاتنگ دست برتر را داشته باشد و به همین دلیل هم از هیچ تلاشی برای حقه خواندن هشدارها درباره امنیت هوش مصنوعی فروگذار نمیکند.
او که بهتازگی از ایجاد نیروی ویژه هوش مصنوعی و معرفی یک تزار هوش مصنوعی در آمریکا خبر داده، منتقد جدی و سرسخت قوانین هوش مصنوعی است و آن را برای توسعه این فناوری، دست و پاگیر میداند. ترامپ، پا را از این هم فراتر گذاشته و تصمیم دارد واژه هوش مصنوعی را به هوش فوقالعاده یا هوش برتر تغییر دهد. البته همه بزرگان صنعت فناوری، موافق موضوع توسعه سریع هوش مصنوعی بدون قانونگذاری مشخص برای آن نیستند و نگرانیهای زیادی برای آینده این فناوری بدون نظارت جدی دارند.
چرا هوش مصنوعی نگرانکننده شده است؟
نگرانی از توسعه سریع هوش مصنوعی، مدیران غولهای هوش مصنوعی از جمله آنتروپیک، xAI، اپن ای آی و دیپ مایند گوگل را در یک جبهه مشخص قرار داده و همگی یکصدا نسبت به سرعت فزاینده پیشرفت مدلهای هوش مصنوعی هشدار میدهند. به اعتقاد این گروه از مدیران غولهای هوش مصنوعی، باید میان رشد قابلیت این فناوری و توانایی بشر برای ارزیابی، ایمنسازی و کنترل آن فاصلهای مشخص وجود داشته باشد وگرنه ممکن است توانایی سیستمهای هوش مصنوعی برای بهبود قابلیتهای خود، از توانایی انسان برای درک و کنترل آنها نیز جلو بزند و عملاً برای جوامع بشری دردسرساز شود.
البته این، همه ماجرا نیست و رفتار عجیب و خودسرانه ایجنتهای هوش مصنوعی اپنایآی و آنتروپیک و فرار آنها از محیط قرنطینه درحال مطالعه، ایجاد کانالهای ارتباطی و عبور از محدودیتهای تعیینشده و حتی حمله به یک وبسایت برنامهنویسی آلمانی، همگی دلایلی هستند که هوش مصنوعی را ترسناکتر از گذشته میکنند. این ترس باعث شده درنهایت، ایلان ماسک و سم آلتمن که مدتهاست رقیب سرسخت یکدیگر در حوزه هوش مصنوعی بودند و همیشه با یکدیگر با کنایه حرف میزدند هم در یک جبهه قرار بگیرند.
جنگافزارهای مدرن هوشمند
جدا از فرار عاملهای هوش مصنوعی، برخی دیگر مانند اریک اشمیت، مدیرعامل سابق گوگل هم نگران سرعت گرفتن توسعه جنگافزارهای مدرن هوشمند با کمک هوش مصنوعی هستند. او اعتقاد دارد درغیاب نظارت مناسب بر روند توسعه هوش مصنوعی، امکان توسعه سیستمهای سلاحهای خودمختار با سرعتی بالا وجود دارد که خود تهدیدی برای جهان محسوب میشود.
طراحی ویروسهای کاملاً جدید و قابل تکثیر توسط هوش مصنوعی برای اولینبار هم موضوعی است که نگرانیهایی ایجاد کرده و حتی برخی معتقدند همانطور که دانشمندان دانشگاه استنفورد توانستند با استفاده از یک مدل هوش مصنوعی، خانوادهای از ویروسهای جدید و فعال را خلق کنند، احتمال ساخت سریع سلاحهای بیولوژیکی و توسعه بیوتروریسم با کمک هوش مصنوعی وجود دارد. از دست رفتن مشاغل انسانها هم موضوعی است که بارها از آن سخن گفته شده، هرچند فعالان حوزه فناوری معتقدند انسانها باید نوع تعامل خود با هوش مصنوعی را تغییر دهند و مهارتهای جدیدی بیاموزند؛ مهارتهایی که میتواند فناوری هوش مصنوعی را نیازمند آنان کند نه اینکه شغل را از آنها بگیرد.
نگرانی پدرخوانده هوش مصنوعی
البته دامنه این نگرانیها به جفری هینتون، «پدرخوانده هوش مصنوعی» و برنده جایزه نوبل نیز رسیده است. او بهتازگی خطاب به قانونگذاران آمریکایی اعلام کرده است که آنها ممکن است تنها یک سال برای قانونگذاری در حوزه هوش مصنوعی فرصت داشته باشند. جفری هینتون با اشاره به اینکه زمان به نفع هوش مصنوعی است، گفت: «با توجه به سرعت توسعه هوش مصنوعی، ممکن است این فناوری دیگر قابل کنترل نباشد.» او خواستار کند شدن روند توسعه این فناوری و اتخاذ تدابیر حفاظتی کافی شد و تأکید کرد در غیر این صورت، پیامدهای حوادث آینده میتواند بسیار شدیدتر باشد.
بخش دیگری از نگرانیها هم به امنیت کاربرانی مربوط میشود که در غیاب قانونی مشخص و شفاف، دائم از چتباتهای هوش مصنوعی بهره میگیرند و البته این موضوع برای کودکان و نوجوانان پررنگتر است. تاکنون مواردی از خودکشی، استفاده اشتباه از دارو و… در نتیجه مشاوره گرفتن از هوش مصنوعی خبرساز شده و حتی شکایاتی نیز مطرح شده است.
هوش مصنوعی و مصرف روزانه 1.5میلیون بشکه نفت
محیط زیست هم موضوعی دیگر است که در کانون توجه قرار گرفته است. رشد سریع هوش مصنوعی مصرف برق مراکز داده را به سطحی بیسابقه رسانده و آژانس بینالمللی انرژی پیشبینی میکند که این مراکز تا سال ۲۰۳۰ روزانه معادل ۱.۵ میلیون بشکه نفت انرژی مصرف کنند. نیاز شدید هوش مصنوعی به مراکز داده و در نتیجه، مصرف بالای انرژی توسط این فناوری، برخی فعالان محیطزیست را هم در جبهه مخالفان توسعه سریع هوش مصنوعی قرار داده است.
طرفداران توسعه سریع هوش مصنوعی چه میگویند؟
درمقابل، طرفداران سرسخت فناوری هوش مصنوعی مانند مارک زاکربرگ، مدیرعامل متا معتقدند کاهش سرعت تحقیقات روی قویترین مدلهای هوش مصنوعی در آمریکا، به منزله واگذاری میدان رقابت به چین است. دونالد ترامپ در رأس این گروه قرار دارد و معتقد است هرگونه کند کردن روند نوآوری آمریکا یا اعمال محدودیتهای سختگیرانه، مزیتی راهبردی به رقبای خارجی خواهد بخشید.
ترامپ بارها تأکید کرده که آمریکا در زمینه هوش مصنوعی از چین پیشی گرفته و او میخواهد آمریکا همچنان پیشرفتهترین کشور جهان باقی بماند. مارک زاکربرگ، مالک متا نیز از مخالفان کند شدن توسعه هوش مصنوعی است و میگوید: «هر آزمایشگاهی مسئولیت و انگیزه آن را دارد که با سرعتی متناسب با آموزش ایمن مدلهای خود پیش برود و از توانایی لازم برای اتخاذ تدابیر مقتضی جهت تحقق این امر برخوردار است. شرکت متا تمرکز ویژهای بر پیشگامی در حوزه هوش مصنوعی دارد و دهها میلیارد دلار را به ایجاد زیرساختهای اختصاصی هوش مصنوعی اختصاص داده است.»
«جنسن هوانگ»، مدیرعامل انویدیا به عنوان یکی از بزرگترین تراشهسازان جهان هم در زمره همین افراد قرار دارد و در پاسخ به دلواپسان توسعه سریع هوش مصنوعی، میگوید: «این فناوری تا پایان 2030 بشریت را نابود نخواهد کرد. به اعتقاد او، ایجاد رعب و وحشت عمومی هیچ توجیه منطقی ندارد و جامعه نباید اسیر سناریوهای فاجعهبار خیالی شود؛ موضوعی که ترامپ هم بر آن تأکید دارد.» رئیسجمهوری آمریکا معتقد است هوش مصنوعی انقلاب صنعتی بعدی است و حتی ممکن است بزرگتر و تأثیرگذارتر شود. او احتمال داد که هوش مصنوعی درآینده تا ۲۵ درصد تولید ناخالص داخلی آمریکا را تشکیل دهد.
برخی هم مانند مارک اندریسن، سرمایهگذار خطرپذیر معتقد است توقف این تحقیقات برای حوزه پزشکی نیز گران تمام میشود. به اعتقاد این گروه، میتوان با کمک هوش مصنوعی به پیشگیری از بسیاری بیماریها پرداخت، داروهای جدید و شخصیسازی شده برای افراد مختلف تولید کرد و میزان خطاهای پزشکی را کاهش داد. اما هرگونه کاهش سرعت این تحقیقات و تأخیر در اکتشافات علمی، به قیمت جان انسانها تمام میشود.
تلاش برای ایجاد قواعد جهانی
برخی دولتها ازجمله کانادا نیز به دنبال راهی میانه میان توسعه و کنترل هوش مصنوعی هستند. مارکارنی، نخستوزیر کانادا هرچند بهطور صریح درباره کند کردن روند توسعه هوش مصنوعی اظهارنظر نکرده، اما ایده ایجاد سازمانی با عنوان «ثبات فناوری» را مطرح کرده تا هماهنگیهای بینالمللی در زمینه پیشرفتهای هوش مصنوعی بهبود یابد. او در مصاحبهای با بلومبرگ گفت: «نیاز به هماهنگی وجود دارد. به اعتقاد ما، در نهایت تشکیل یک «هیأت ثبات فناوری» مشابه «هیأت ثبات مالی» منطقی خواهد بود. هیأت ثبات مالی که مقر آن در بازل سوئیس قرار دارد، بر سیستم مالی جهانی نظارت میکند و در این باره توصیههایی ارائه میدهد. این نهاد ۷۱ عضو دارد که نمایندگان مؤسساتی از سراسر جهان، از جمله کانادا، هستند.
در بریتانیا نیز چارلزسوم، پادشاه انگلستان درباره ضرورت توجه به خطرات احتمالی هوش مصنوعی و ایجاد سازوکارهای کنترلی هشدار داده، هرچند صراحتاً خواستار کاهش سرعت نشده اما خواستار کنترلهای سختگیرانهتری شده است. او میگوید: «به نظر میرسد بررسی کافی خطرات وجودی چنین فناوریهایی که به دست افراد نادرست میافتند و به روشهای بالقوه فاجعهبار مورد استفاده قرار میگیرند، ضروری است. مطمئناً ما قبل از اینکه خیلی دیر شود، به ابزارهای کنترل کافی نیاز داریم. البته این اولین هشدار او درباره خطرات احتمالی هوش مصنوعی نیست.» در سال ۲۰۲۳، پادشاه بریتانیا در رویدادی که در پارک بلچلی برگزار شد، هوش مصنوعی را کشفی همسطح با برق و شکافتن اتم نامید اما هشدار داد که جهان باید برای عواقب ناخواسته آن آماده شود.
این رویکردها نشان میدهد که مسئله هوش مصنوعی دیگر صرفاً به شرکتهای فناوری یا آزمایشگاههای تحقیقاتی محدود نیست و دولتها نیز به دنبال نقش و مسئولیت خود در مدیریت این فناوری هستند. در نهایت، مناقشه بر سر هوش مصنوعی را نمیتوان صرفاً به دو گروه «موافق» و «مخالف» تقسیم کرد. تقریباً همه طرفها بر ظرفیت بالای این فناوری اتفاق نظر دارند.
اختلاف اصلی بر سر این است که سرعت توسعه هوش مصنوعی تا چه اندازه باید با سرعت قانونگذاری، ایمنی و نظارت همراه باشد.از یک سو، کند کردن بیش از حد تحقیقات میتواند فرصتهای اقتصادی و علمی را کاهش دهد و در رقابت میان کشورها هزینهزا باشد. از سوی دیگر، توسعه بدون سازوکارهای ایمنی کافی میتواند ریسکهایی ایجاد کند که مدیریت آنها در آینده دشوارتر باشد.به همین دلیل، شاید پرسش اصلی دیگر این نباشد که «هوش مصنوعی را توسعه بدهیم یا نه»، بلکه این باشد که چگونه میتوانیم آن را با سرعتی توسعه دهیم که هم فرصتهایش از دست نرود و هم توانایی کنترل پیامدهایش از دست انسان خارج نشود.
کد مطلب 6956305
-
امیر طاهری: ارتش آماده دفاع از مرزهای کشور است
-
علی نژاد: ۷ میلیارد و ۲۰۰ میلیون تومان پاداش برنز بسکتبال ایران
-
کامیون متخلف تخلیه نخاله در کرمانشاه توقیف شد
-
محمد رعد: حزب الله و جنبش امل در بهترین شرایط خود قرار دارند
-
فرزندان شهدا و جانبازان لامرد بورسیه دانشگاه آزاد میشوند
-
جای خالی پدر
-
مسیر مدرسه با یاد پدر؛ روایت همراهی خدام شاهچراغ با فرزند شهید رضایی
-
رقابت آمریکا و چین ترمز هوش مصنوعی را میکشد؟
-
علوی: بچهها باید از دوران مدرسه مسئولیتپذیری را یاد بگیرند
-
انبار لوازم خانگی ۳۰۰ میلیارد ریالی در اهواز توقیف شد
-
ورود سامانه بارشی جدید به کشور از جمعه؛ باران و کاهش دما در ۵ استان
-
کار کشتیگیران در ناگویا سخت است؛ آذرپیرا به دنبال انتقام است
-
الشرع: بلندیهای جولان قلمرو غیرقابل مذاکره سوریه است
-
قیمت طلا امروز کاهش یافت؛ هر اونس ۴۳۴۵ دلار معامله شد
-
سن جذب اعضای هیئت علمی به ۴۰ سال کاهش یافت؛ شرط تسلط به زبان خارجی
-
جدول زمانی قطع برق استان کرمانشاه در روز چهارشنبه یکم مهر ماه منتشر شد
-
پسته یزد در مسیر هوشمندسازی و تکمیل زنجیره ارزش افزوده
-
عذرخواهی مدیر تیم فوتبال امید ایران پس از حذف زودهنگام
-
عناوین و ضرایب دروس سوابق تحصیلی در آزمون سراسری سال ۱۴۰۶ اعلام شد
-
پیشنهاد مدیری را بیتردید پذیرفتم؛ چالش حضور در «مرد سه هزار چهره»
-
روزنامههای ورزشی چهارشنبه یکم مهر ۱۴۰۵
-
روزنامههای اقتصادی چهارشنبه یکم مهر ۱۴۰۵
-
روزنامههای صبح چهارشنبه یکم مهر ۱۴۰۵
-
روزنامههای ورزشی سهشنبه ۳۱ شهریور ۱۴۰۵
-
روزنامههای اقتصادی سهشنبه ۳۱ شهریور ۱۴۰۵
- خرید اپل ایدی
- شمش نقره
- کلینیک ترک اعتیاد تهران
- دوربین مداربسته
- مبلمان اداری
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه