به گزارش « نبض فناوری » به نقل از اسکای نیوز، داریو آمودئی مدیر ارشد اجرایی آنتروپیک مقاله ای با عنوان «ما باید در پیشروی مرزها شتاب زده عمل نکنیم» ( We Must Pace the Frontier) را منتشر کرده که در آن از شرکت های فناوری می خواهد سرعت بهبود قابلیت های مدل های هوش مصنوعی را کندتر کنند.
این مقاله در حالی منتشر می شود که نگرانی ها درباره سواستفاده از هوش مصنوعی شدت گرفته است. از سوی دیگر آنتروپیک اخیرا فاش کرده چند هکر از مدل های کلاود آن برای فعالیت هایی مانند توسعه اسلحه، عملیات های نظامی و نظارت و کلاهبرداری استفاده کرده اند.
آمودئی در همین زمینه طرحی سه بخشی ارائه کرده که شرکتش نیز به آن متعهد است. او در پستی در شبکه اجتماعی ایکس نوشت: ما ارزیاب های طرف ثالث را با دسترسی دائمی و در سطح کارمندان برای سیستم هایمان فراهم می کنیم تا آنها بتوانند التزام مان به اقدامات ایمنی را تایید کنند، درباره رویدادها گزارش دهند و همسویی مدل ها طی آموزش را ارزیابی کنند.
پس از آن ایلان ماسک مدیر ارشد اجرایی ایکس و سم آلتمن مدیر ارشد اجرایی اوپن ای آی نیز از این مقاله دفاع کردند. ماسک نیز پاسخ به پست آمودئی نوشت: داریو درست می گوید.
سم آلتمن نیز در ایکس نوشت: من هم با داریو موافقم که ما نیاز داریم در پیشروی شتاب زده عمل نکنیم. این موضوع اصلی گفتگوهایی است که هفته های اخیر در اوپن ای آی داشتیم. تعهد به حضور ارزیاب های مستقل با دسترسی در سطح کارمند یک ایده عالی است و ما نیز همین کار را انجام می دهیم. به زودی اطلاعات بیشتری به اشتراک می گذاریم.
نظرات کاربران