باید 6 ماه دنیای هوش مصنوعی متوقف شود!

آیا چین این نامه را قبول می کند؟ به نظر شما Open AI با ساختن chat gpt بعد از دهه ها تلاش برای رسیدن به موتور های جستجو گوگل دست از کارش میکشد وقتی که در یک قدمی موفقیت است؟

گروهی از چهره‌های با نفوذ از silicon valley و جامعه فناوری این هفته نامه ای منتشر کردند و خواستار توقف توسعه برنامه‌های هوش مصنوعی قدرتمند شدند و استدلال کردند که این برنامه‌ها خطرات غیرقابل پیش‌بینی برای دنیا به همراه دارند.

سازمانی که نامه را ایجاد کرده است، مؤسسه آینده زندگی (future of life)، گفت که اخیراٌ ابزارهای هوش مصنوعی قدرتمند توسط شرکت هایی مانند Open AI، IBM و Google نشان می دهد که صنعت هوش مصنوعی "در یک مسابقه خارج از کنترل برای توسعه در حال فعالیت است . ذهن‌های دیجیتالی و ربات هایی قدرتمندتر را که هیچ‌کس حتی سازندگان آن‌ها نمی توانند آن ها را درک کنند، یا به‌طور قابل اعتماد آن ها را کنترل کنند ."

امضاکنندگان نامه، از جمله ایلان ماسک، بنیانگذار تسلا و اسپیس ایکس، و استیو وزنیاک، یکی از بنیانگذاران اپل، خواهان توقف شش ماهه تمام کارهای توسعه روی پروژه های بزرگ هوش مصنوعی مدل زبانی شدند.

در این نامه آمده است: «آزمایشگاه‌های هوش مصنوعی و کارشناسان مستقل باید از این مکث برای توسعه و اجرای مشترک مجموعه‌ای از پروتکل‌های ایمنی مشترک برای طراحی و توسعه هوش مصنوعی استفاده کنند که به‌شدت توسط کارشناسان مستقل خارجی بررسی و نظارت شوند. این پروتکل‌ها باید تضمین کنند که سیستم‌هایی که به آن‌ها پایبند هستند، به طور قابل اعتمادی ایمن هستند.»

با این حال، کارشناسان گفتند که رقابت تجاری بین آزمایشگاه‌های مختلف هوش مصنوعی و نگرانی گسترده‌تر در مورد اجازه دادن به شرکت‌های غربی برای عقب افتادن از چین در رقابت برای توسعه برنامه‌های پیشرفته‌تر این فناوری، توقف قابل توجهی در توسعه را بعید می‌سازد.

chat gpt چیست؟

chat GPT یک هوش مصنوعی یا یک ربات خودکار است که توسط Open AI ارائه شده است. به طور خلاصه، این یک مدل زبان مولد است که برای چت یا مکالمه ساخته شده است. منبع داده‌های آن کتاب‌های درسی، وب‌سایت‌ها و مقالات مختلف است که از آنها برای مدل‌سازی زبان خود برای پاسخ به تعامل انسانی استفاده می‌کند.

 GPT chat یک ربات چت هوشمند است که می تواند به سوالات ما در هر زمینه ای پاسخ دهد، اما از این تکنولوژی(chat GPT) عمدتا برای تولید محتوا، برنامه نویسی و  آموزش شعر نویسی همه کار های روزمره و حتی سئو سایت استفاده می شود. لازم به ذکر است که اطلاعات این ربات چت جی پی تی مربوط به سال ۲۰۲۱ است و هنوز به اطلاعات و رویدادهای اخیر دسترسی نداشته است.

در نوامبر سال گذشته، Open AI برنامه ای به نام ChatGPT (Transformer Pre-trained Generative Chat) را برای عموم منتشر کرد. بر اساس مدل زیربنایی GPT 3.5، این برنامه به کاربران اجازه می دهد تا با وارد کردن متن از طریق یک مرورگر وب با برنامه ارتباط برقرار کنند، که پاسخ های ایجاد شده تقریباً بلافاصله توسط برنامه را برمی گرداند.

ChatGPT یک احساس فوری بود، زیرا کاربران از آن برای تولید همه چیز از کدهای کامپیوتری پیچیده گرفته تا شعر استفاده کردند. اگرچه به سرعت آشکار شد که این برنامه اغلب اطلاعات نادرست یا گمراه‌کننده را برمی‌گرداند، اما پتانسیل آن برای ایجاد اختلال در بخش‌های مختلف زندگی، از دانشگاه گرفته تا سیستم‌های خدمات مشتریان و دفاع ملی، آشکار بود.

مایکروسافت از آن زمان ChatGPT را در موتور جستجوی خود بینگ ادغام کرده است. اخیراً، گوگل قابلیت جستجوی خود را که با هوش مصنوعی پشتیبانی می‌شود، به نام Bard ارائه کرده است. این شروع رقابت گوگل است مه این غول موتور های جستجو از صنعت عقب نماند.

 chat GPT به عنوان معیار

در نامه ای که خواستار توقف توسعه هوش مصنوعی است، امضاکنندگان از GPT-4 به عنوان معیار استفاده می کنند. GPT-4 یک ابزار هوش مصنوعی است که توسط Open AI توسعه یافته و قدرتمندتر از نسخه ای است که ChatGPT اصلی را تامین می کند. در حال حاضر در نسخه محدود است. توقفی که در نامه درخواست شده است، بر روی سیستم‌هایی است که «قوی‌تر از GPT-4» هستند.

با این حال، یک مشکل این است که دقیقاً مشخص نیست که "قوی تر" در این زمینه به چه معناست.

بیل درکسل، همکار برنامه ایمنی و پایداری هوش مصنوعی در مرکز امنیت جدید آمریکا (CNAS) می‌گوید: (مدل‌های دیگری وجود دارند که از نظر محاسباتی، بسیار کم‌ قدرت تر از chat gpt هستند، اما قابلیت قدرت بسیار بیش تری دارند) بنابراین مدل‌های بسیار کوچک‌تری وجود دارند که به طور بالقوه می‌توانند به توسعه پاتوژن‌های خطرناک یا به مهندسی شیمی کمک کنند مدل‌های واقعاً دارای اهمیتی که بسیار کوچک‌تر از chat gpt هستند.»

قابلیت های محدود chat gpt

Geist گفت که او معتقد است بسیاری از کسانی که در مورد خطرات هوش مصنوعی هشدار می دهند در نگرانی های خود "کاملا جدی" هستند، اما او متقاعد نشده است که این خطرات به همان اندازه که آنها فکر می کنند شدید باشد.

بر اساس مطالعه من از گزارش فنی Open AI در مورد آن، شکاف بین هوش مصنوعی خود-بهبود فوق العاده هوشمندی که در آن حدس و گمان ها فرض شده است، و آنچه که GPT-4 و امثال آن واقعا می توانند انجام دهند، بسیار گسترده است.

نگرانی های تجاری و امنیتی بعد از متولد شدن chat gpt 4

جیمز ای. لوئیس، معاون ارشد رئیس جمهور و مدیر برنامه فناوری های استراتژیک در مرکز مطالعات استراتژیک و بین المللی (CSIS) گفت که تردید دارد که نامه future of life تأثیر زیادی داشته باشد، به دلایلی مانند رقابت تجاری و نگرانی ها. در مورد امنیت ملی

او در پاسخ به این سوال که فکر می‌کند شانس موافقت صنعت با توقف تحقیقات چقدر است، گفت: «صفر».

"شما از مایکروسافت می خواهید که با گوگل رقابت نکند؟" لوئیس گفت. "آنها برای دهه ها تلاش کرده اند تا گوگل را در موتورهای جستجو شکست دهند، و در آستانه انجام این کار هستند. و شما می گویید، بیایید کمی مکث کنیم؟ بله، بعید است."

رقابت با چین

لوئیس گفت، به طور گسترده تر، پیشرفت در هوش مصنوعی برای پیشرفت در فناوری مربوط به دفاع ملی نقش اساسی خواهد داشت.

لوئیس گفت: "چینی ها متوقف نمی شوند زیرا ایلان ماسک عصبی شده است." "این بر تفکر [وزارت دفاع] تاثیر می گذارد. اگر ما تنها کسانی باشیم که ترمز می کنیم، مسابقه را باختیم."

Drexel، از CNAS، موافقت کرد که بعید است چین احساس کند به چنین توقفی ملزم است.

او گفت: «بعید است شرکت‌های چینی و دولت چین با این توقف موافقت کنند. "اگر آنها موافقت می کردند، بعید به نظر می رسید که این کار را انجام دهند. و در هر صورت، بررسی اینکه آیا آنها این کار را دنبال می کردند یا نه، بسیار دشوار خواهد بود."

وی افزود: "دلیل اینکه بعید است آنها موافقت کنند این است که - به ویژه در مدل هایی مانند GPT-4 - آنها احساس می کنند و تشخیص می دهند که عقب هستند. [رئیس جمهور چین] شی جین پینگ بارها گفته است که هوش مصنوعی واقعاً یک است. برای آنها اولویت مهمی است و بنابراین رسیدن به عقب و پیشی گرفتن از [شرکت‌های غربی] یک اولویت است."

لی آنگ ژانگ، دانشمند اطلاعاتی در شرکت رند، به صدای آمریکا گفت که معتقد است توقف کلی یک اشتباه است.

او در یک تبادل ایمیل گفت: «به جای اتخاذ رویکرد مبتنی بر ترس، می‌خواهم یک استراتژی اندیشیده‌شده بهتر در رابطه با حکمرانی هوش مصنوعی ببینم. من یک مکث گسترده در تحقیقات هوش مصنوعی را به عنوان یک استراتژی قابل قبول نمی‌دانم، اما فکر می‌کنم این راه خوبی برای باز کردن گفتگو در مورد اینکه ایمنی و اخلاق هوش مصنوعی چگونه باید باشد باشد.»

او همچنین گفت که تعلیق ممکن است به ضرر ایالات متحده در تحقیقات آینده باشد.

او گفت: «بر اساس بسیاری از معیارها، ایالات متحده یک رهبر جهانی در هوش مصنوعی است. "برای ایجاد و موفقیت استانداردهای ایمنی هوش مصنوعی، دو چیز باید درست باشد. ایالات متحده باید در زمینه هوش مصنوعی و پروتکل های ایمنی پیشروی خود را حفظ کند. پس از شش ماه چه اتفاقی می افتد؟ تحقیقات ادامه دارد، اما اکنون ایالات متحده شش ماه عقب است." 

برای کسب اطلاعات بیشتر در زمینه Chat gpt می توانید به وب سایت تارنماگستر مراجعه نمایید.

 ویدیو زیر با موضوع Elon musk و chat gpt را حتما مشاهده کنید.