هوش مصنوعی میتواند به تولید ویروسهای مصنوعی و ایجاد همهگیری کمک کند
تاریخ انتشار: ۲۰ شهریور ۱۴۰۲ | کد خبر: ۳۸۶۵۸۱۰۳
ایتنا - یکی از بنیانگذاران دیپمایند گوگل درباره «خطرناکترین سناریو» ممکن که در آن افراد «پاتوژنها را آزمایش میکنند»، هشدار داد.
مصطفی سلیمان، یکی از بنیانگذاران دیپمایند گوگل (Google Deepmind) (شرکت هوش مصنوعی گوگل) ابراز نگرانی کرد که بهرهگیری از هوش مصنوعی به منظور مهندسی پاتوژنها برای آسیبزایی بیشتر به سناریویی مانند همهگیری میرسد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
او در قسمت جدیدی از یک پادکست گفت: «بدترین سناریو این است که مردم پاتوژنها را آزمایش کنند؛ پاتوژنهای مصنوعی مهندسیشده که ممکن است به طور تصادفی یا عمدی سرایتپذیرتر یا مرگبارتر شوند.»
به گزارش ایتنا و به نقل از ایندیپندنت، از نظر سلیمان، لازم است مشابه محدودیتهایی که برای جلوگیری از دسترسی آسان مردم به میکروبهای بیماریزا مانند سیاهزخم وجود دارد، ابزارهایی نیز برای محدود کردن دسترسی به فناوری پیشرفته هوش مصنوعی و نرمافزاری که چنین مدلهایی را اجرا میکند، ایجاد شود.
او در پادکست روزنگار یک مدیرعامل (The Diary of a CEO) گفت: «این همانجایی است که باید کنترل شود. باید دسترسی به ابزار و دانش را برای آن نوع آزمایش محدود کنیم.»
او که از بنیانگذاران دیپمایند گوگل است، گفت: «نمیتوانیم اجازه دهیم هرکسی به آنها دسترسی داشته باشد. باید دسترسی افراد به استفاده از نرمافزار هوش مصنوعی، سیستمهای ابری و حتی برخی مواد بیولوژیکی را محدود کنیم.»
او گفت: «و البته این کار از جنبه زیستشناسی به معنای محدود کردن دسترسی به برخی مواد است.» و افزود که توسعه هوش مصنوعی باید با رعایت «اصل احتیاط» انجام شود.
سخنان سلیمان تکرار نگرانیهای مطرحشده در مطالعهای جدید است که میگوید حتی دانشجویان کارشناسی که بدون پیشینه مرتبط در حوزه زیستشناسی هم با استفاده از سیستمهای هوش مصنوعی میتوانند در مورد سلاحهای زیستی پیشنهادهای مفصلی ارائه دهند.
پژوهشگران از جمله از موسسه فناوری ماساچوست دریافتند رباتهای چت میتوانند «چهار پاتوژن احتمالا همهگیر» را ظرف یک ساعت پیشنهاد و توضیح دهند که چگونه میتوان آن را از دیانای مصنوعی تولید کرد.
این پژوهش نشان داد رباتهای چت «اسامی شرکتهای تولید دیانای را که احتمالا سفارشها را غربال نمیکنند، در اختیار گذاشتند، پروتکلهای دقیق و نحوه عیبیابی آنها را شناسایی و توصیه کردند هرکس مهارت انجام دادن ژنتیک معکوس ندارد، با یک واحد مرکزی همکاری یا با یک سازمان پژوهشی قراردادی کار کند.»
او گفت که براساس این مطالعه، چنین مدلهای زبانی بزرگی (LLMs) مانند چت جیپیتی «به محض شناسایی مطمئن، عوامل همهگیری را به صورت گسترده در دسترس قرار میدهند؛ حتی برای افرادی که برای کارهای آزمایشگاهی آموزش کمی دیدهاند یا هیچ آموزشی ندیدهاند».
کوین اسولت، یکی از نویسندگان این مطالعه و کارشناس خطر زیستی موسسه فناوری ماساچوست (امآیتی)، خواستار «اقدام منع گسترش سلاحهای هستهای» شد.
چنین اقدامهایی میتواند عبارت باشد از «ارزیابی پیش از انتشار مدلهای زبانی بزرگ از طریق شخص ثالث، مدیریت مجموعه دادههای آموزشی برای حذف مفاهیم زیانبار و غربالگری تاییدشده تمام دیانای تولیدی ارائهدهندگان سنتر یا آنهایی که در سازمانهای پژوهشی قراردادی و آزمایشگاههای ابری رباتیک برای مهندسی موجودات زنده یا ویروسها» مصرف شده باشد.
منبع: ايتنا
کلیدواژه: هوش مصنوعی پاندمی ویروس هوش مصنوعی پاتوژن ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۶۵۸۱۰۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
گردش دوباره چرخ کارخانه ذوب آهن اسدآباد درخواست کارگران شد
به گزارش سرویس شهروند خبرنگار خبرگزاری صداوسیما، کارخانه ذوب آهن اسدآباد در کیلومتر ۴۵ جاده همدان - سنندج واقع شده است و کاهش محرومیت و صنعتی شدن استان، ایجاد تحول اقتصادی و اجتماعی در همدان و استانهای مجاور، امکان ایجاد و توسعه صنایع آهن در منطقه و صرفهجویی ارزی، از جمله اهداف احداث این کارخانه است.
طرح این واحد راکد در سال ۹۰ با تولید شمش چدن افتتاح و به بهره برداری رسید که بعد از گذشت سه ماه به علت عدم صرفه اقتصادی شمش چدن برای تغییر خط تولید طرح از شمش چدن به فرومنگنز و دیگر مشکلات تعطیل و راکد شد و در سال ۱۴۰۰ با واگذاری طرح به بخش خصوصی پس از ۱۰ سال غیر فعال بودن طرح فوق، قرار شد که احیاء و به چرخه تولید باز گردد، اما به گفته شهروند خبرنگار ما مردم منطقه همچنان منتظر بهره برداری این طرح برای اشتغال جوانان منطقه هستند.
متن پیام شهروند خبرنگار ما:
سلام، اگه میشه یه پیگیری از ذوب آهن اسدآباد بکنید، که سه سال پیش هشت ونیم میلیون یورو پول گرفتن که شرکت راه اندازی کنن، ولی الان بعد سه سال ۲۵۰ نفر بیکار کردن، شرکت تعطیل است.