چرا سام ایتمن، خالق ChatGPT معتقد است که “هوش مصنوعی می تواند به جهان آسیب برساند”

«بدترین ترس من این است که ما، حوزه، فناوری، صنعت، آسیب قابل توجهی به جهان وارد کنیم. اگر این فناوری اشتباه پیش برود، ممکن است کاملاً اشتباه شود، ما می‌خواهیم با دولت همکاری کنیم تا از وقوع آن جلوگیری کنیم.»

در جلسه استماع سنای ایالات متحده در روز سه‌شنبه، که کمتر از سه ساعت به طول انجامید، ساموئل آلتمن، خالق ChatGPT و مدیر اجرایی OpenAI، این کلمات شوم را در پاسخ به سوالی درباره احتمالات – و مشکلات – فناوری جدید و هوش مصنوعی بیان کرد.

در طول جلسه استماع، این مرد 38 ساله که به چهره جهانی هوش مصنوعی تبدیل شده است، از قانونگذاران آمریکایی خواست تا هوش مصنوعی را تنظیم کنند و رونق فعلی این فناوری را به عنوان یک “لحظه مطبوعاتی چاپ” بالقوه توصیف کرد، اما نیاز به تدابیر امنیتی دارد. آلتمن در سخنان افتتاحیه خود گفت: «ما فکر می‌کنیم که مداخله نظارتی دولت‌ها برای کاهش خطرات مدل‌های قدرتمندتر حیاتی خواهد بود».

مقالات مرتبط

هوش مصنوعی

سم آلتمن خطاب به قانونگذاران آمریکایی گفت: هوش مصنوعی می تواند به طرز وحشتناکی اشتباه کند و بشریت را نابود کند، باید تنظیم شود

هوش مصنوعی

کاخ سفید از طرح خود برای سرکوب هوش مصنوعی، معاون آمریکایی کامالا هریس به عنوان رهبری گروه ضربت، رونمایی کرد

اتفاقا این اولین بار نیست که آلتمن در مورد خطرات هوش مصنوعی هشدار می دهد. هنگام انتشار نسخه جدیدتر ChatGPT در ماه مارس، او گفته بود: «ما باید در اینجا مراقب باشیم. “من فکر می کنم مردم باید خوشحال باشند که ما کمی از این می ترسیم. من به ویژه نگران این هستم که این مدل ها برای اطلاعات نادرست در مقیاس بزرگ مورد استفاده قرار گیرند. اکنون که آنها در نوشتن کدهای کامپیوتری بهتر شده اند، [they] می تواند برای حملات سایبری تهاجمی استفاده شود.»

ما اظهارات آلتمن را در طول جلسه استماع سنا تجزیه و تحلیل می کنیم و خطرات هوش مصنوعی و چرایی نیاز به تنظیم آن را توضیح می دهیم.

هوش مصنوعی، اطلاعات نادرست و انتخابات

در ابتدای جلسه، آلتمن گفت: “OpenAI بر این باور است که هوش مصنوعی پتانسیل بهبود تقریباً هر جنبه از زندگی ما را دارد، اما همچنین خطرات جدی ایجاد می کند.”

قانونگذاران در این جلسه ابراز نگرانی شدید در مورد اطلاعات نادرست که ممکن است از طریق هوش مصنوعی منتشر شود، زیرا سال انتخابات در پیش است. جاش هاولی، سناتور ایالت میسوری، گفت: «ما می‌توانیم به یکی از مهم‌ترین نوآوری‌های تکنولوژیک در تاریخ بشر نگاه کنیم.»

سوال من این است که چه نوع نوآوری قرار است باشد؟ آیا قرار است مانند ماشین چاپ باشد… یا بیشتر شبیه بمب اتم است؟» او درخواست کرد.

اگر سام ایتمن، خالق ChatGPT در مورد هوش مصنوعی هشدار می دهد، جهان در مشکل است
علاوه بر سام آلتمن، پروفسور بازنشسته دانشگاه نیویورک، گری مارکوس، و کریستینا مونتگومری، افسر ارشد حریم خصوصی و اعتماد IBM نیز در این جلسه حضور داشتند. از آن ها نظرشان در مورد هوش مصنوعی و خطراتی که برای انسان ها ایجاد می کند، پرسیده شد. AP

سناتور مازی هیرونو همچنین به خطر اطلاعات نادرست با نزدیک شدن به انتخابات 2024 اشاره کرد. او گفت: «مثلاً در زمینه انتخابات، تصویری از رئیس جمهور سابق ترامپ را دیدم که توسط پلیس نیویورک دستگیر شد و در فضای مجازی منتشر شد.

همچنین بخوانید : دونالد ترامپ “دستگیر” شد؟ ولادیمیر پوتین در زندان است؟ چگونه دیپ فیک ها اطلاعات نادرست را به صورت آنلاین منتشر می کنند

آلتمن در واکنش به هیرونو گفت که سازندگان باید روشن کنند که چه زمانی یک تصویر تولید می شود نه واقعی.

وی همچنین تاکید کرد که در مورد استفاده از هوش مصنوعی برای تداخل در یکپارچگی انتخابات “عصبی” است و گفت که قوانین و دستورالعمل‌ها باید وجود داشته باشند. بر اساس گزارشی که توسط قابل مشروب کردنآلتمن برای «برچسب‌های تغذیه‌ای» در مورد ماهیت و منبع محتوای تولیدی هوش مصنوعی از اشخاص ثالث باز بود.

گری مارکوس، استاد بازنشسته دانشگاه نیویورک و رهبر آزمایشگاه‌های هوش مصنوعی اوبر، که در این جلسه نیز حضور داشت، تصویر ترسناکی را ترسیم کرد. او در مورد خطرناک بودن هوش مصنوعی به قانون‌گذاران گفت: «آنها می‌توانند دروغ‌های متقاعدکننده‌ای در مقیاسی بسازند که بشر تا به حال ندیده است. خارجی ها از آنها برای تأثیرگذاری بر انتخابات ما استفاده خواهند کرد، خودی ها برای دستکاری بازارها و سیستم های سیاسی ما استفاده خواهند کرد. خود دموکراسی در خطر است.»

هوش مصنوعی و امنیت شغلی

مدت‌ها قبل از جلسه استماع، نگرانی‌هایی در مورد از دست دادن شغل وجود داشته است زیرا ابزارهای هوش مصنوعی جایگزین کارمندان در محل کار می‌شوند. وقتی از آلتمن پرسیده شد که آیا این یک نگرانی است، نظر آلتمن این بود که هوش مصنوعی ممکن است جایگزین مشاغل شود و منجر به اخراج در زمینه‌های خاص شود.

با این حال، وی افزود که این کار باعث ایجاد مشاغل جدید نیز خواهد شد: “من معتقدم که در طرف دیگر مشاغل بسیار بیشتری وجود خواهد داشت و مشاغل امروز بهتر خواهند شد.” او خاطرنشان کرد که مدل‌هایی مانند ChatGPT «در انجام وظایف خوب هستند، نه کارها» و بنابراین کار را برای افراد آسان‌تر می‌کنند، بدون اینکه آنها را به طور کامل جایگزین کنند.

اگر سام ایتمن، خالق ChatGPT در مورد هوش مصنوعی هشدار می دهد، جهان در مشکل است
لوگوی OpenAI روی یک تلفن همراه در مقابل صفحه نمایش کامپیوتر که خروجی ChatGPT را نمایش می دهد، دیده می شود. کارشناسان خاطرنشان کرده اند که ChatGPT می تواند بر مشاغل در بخش های مختلف مانند حقوقی، معماری و مهندسی، تجاری و عملیات مالی تأثیر بگذارد. AP

کریستینا مونتگومری، افسر ارشد حفظ حریم خصوصی و اعتماد آی‌بی‌ام، که او نیز در جلسه حضور داشت، اذعان داشت که «برخی از مشاغل از بین خواهند رفت» اما خوش‌بینی آلتمن را در مورد ایجاد شغل تکرار کرد.

پیش از این گلدمن ساکس پیش‌بینی کرده بود که در صورت ادامه موج هوش مصنوعی، حدود 300 میلیون شغل به دلیل فناوری از بین می‌رود. بانک سرمایه گذاری گفته بود که پشتیبانی اداری اداری، حقوقی، معماری و مهندسی، عملیات تجاری و مالی، مدیریت، فروش، مراقبت های بهداشتی و هنر و طراحی بخش هایی هستند که تحت تاثیر هوش مصنوعی قرار خواهند گرفت.

مسیر تنظیم هوش مصنوعی

برخلاف جلسه قبلی در Big Tech، این جلسه با اصرار آلتمن برای تنظیم مقررات در بخش هوش مصنوعی کمتر خصمانه بود. در واقع، او یک طرح سه نقطه‌ای را در همین مورد ارائه کرد. او گفت که باید یک سازمان دولتی تشکیل شود که مسئول صدور مجوز مدل های بزرگ هوش مصنوعی باشد. این آژانس همچنین باید برای لغو مجوز شرکت‌هایی که استانداردهای دولتی را رعایت نمی‌کنند، اختیار داشته باشد.

علاوه بر این، استانداردهای ایمنی را برای مدل‌های هوش مصنوعی تنظیم کنید و همچنین حسابرسی مستقل شرکت‌ها توسط کارشناسان را الزامی کنید.

اگر سام ایتمن، خالق ChatGPT در مورد هوش مصنوعی هشدار می دهد، جهان در مشکل است
سام آلتمن از OpenAI، با اصرار برای تنظیم مقررات در زمینه هوش مصنوعی، پیشنهاد افتتاح آژانس جدیدی برای مجوز شرکت‌های هوش مصنوعی داد. او همچنین گفت که شرکت هایی مانند OpenAI باید به طور مستقل حسابرسی شوند. رویترز

با این حال، یکی از نگرانی‌هایی که قانون‌گذاران درباره راه‌اندازی یک آژانس دولتی برای تنظیم مقررات هوش مصنوعی ابراز کردند، این بود که آیا این سازمان می‌تواند با فناوری‌هایی که به سرعت در حال حرکت است، همگام شود یا خیر.

در واقع، سناتور کوری بوکر بر این عقیده بود که صنعت فناوری تمام توسعه‌های هوش مصنوعی را متوقف می‌کند تا زمانی که امکان ایجاد تمام خطرات و راه‌حل‌ها وجود داشته باشد. آلتمن با ایده استراحت مخالفت کرد، اما تأیید کرد که شرکت او در حال حاضر هیچ مدل هوش مصنوعی را آموزش نمی‌دهد.

مونتگومری نیز مشتاق نبود. او به قانونگذاران گفت: “من مطمئن نیستم که مکث چقدر عملی است، اما ما باید مقررات را در اولویت قرار دهیم.”

سناتور ریچارد بلومنتال به شدت با ایده توقف نوآوری هوش مصنوعی مخالف بود. «جهان منتظر نخواهد ماند. جامعه علمی جهانی منتظر نخواهد ماند. ما دشمنانی داریم که به جلو حرکت می کنند.» او به کنگره هشدار داد. پادمان‌ها و حفاظت‌ها بله، اما یک تابلوی ایست صاف، که سرمان را در شن فرو کرده‌ایم، من از آن دفاع می‌کنم.»

خطرات هوش مصنوعی

در چند وقت اخیر، هوش مصنوعی به یک کلمه رایج تبدیل شده است و در مورد آن صحبت های زیادی شده است. با این حال، همانطور که به آرامی به زندگی روزمره مردم در سراسر جهان نفوذ می کند، کارشناسان به خطرات ناشی از آن اشاره کرده اند. اطلاعات نادرست و از دست دادن شغل نگرانی اصلی است که توسط کارشناسان برجسته شده است. آنها مشاهده می کنند که از آنجایی که این سیستم ها اطلاعات را با اطمینان کامل ارائه می دهند، در هنگام استفاده از آنها می توان جداسازی حقیقت از تخیل را به چالش کشید.

کارشناسان نگران این هستند که مردم برای مشاوره پزشکی، حمایت عاطفی و اطلاعات خامی که برای تصمیم گیری استفاده می کنند به این سیستم ها اعتماد کنند. سوبارائو کامبامپاتی، استاد علوم کامپیوتر در دانشگاه ایالتی آریزونا، گفت: “هیچ تضمینی وجود ندارد که این سیستم‌ها در هر کاری که به آنها می‌دهید درست باشند.” نیویورک تایمز.

برخی معتقدند که هوش مصنوعی خطرات بسیار جدی دارد و مردم هنوز از آن آگاه نیستند. یکی از این افراد جفری هینتون است که به طور گسترده به عنوان پدرخوانده هوش مصنوعی شناخته می شود. اوایل ماه می، این مرد 75 ساله استعفای خود را از گوگل اعلام کرد و گفت که اکنون از کار خود پشیمان است.

میلیاردر فناوری، ایلان ماسک و دیگران نیز در مورد هوش مصنوعی ابراز نگرانی کردند و در ماه مارس نامه ای سرگشاده نوشتند و خواستار توقف تمام پیشرفت های پیشرفته تر از نسخه فعلی ربات چت هوش مصنوعی ChatGPT شدند تا اقدامات ایمنی قوی طراحی و اجرا شود.

یوشوا بنجیو، یکی دیگر از به اصطلاح پدرخوانده هوش مصنوعی، که به همراه دکتر هینتون و یان لیکان برنده جایزه تورینگ 2018 برای کارشان در زمینه یادگیری عمیق شدند، نامه را امضا کردند. Bengio نوشت که به دلیل “شتاب غیرمنتظره” در سیستم های هوش مصنوعی است که “ما باید یک قدم به عقب برداریم”.

با ورودی های آژانس ها

همه را بخوانید آخرین خبرها، اخبار پرطرفدار، اخبار کریکت، اخبار بالیوود،
اخبار هند و اخبار سرگرمی اینجا. ما را در فیسبوک دنبال کنید، توییتر و اینستاگرام