به نقل از «ایسکانیوز»

فراموشی ماشینی؛ سلاحی در برابر هوش مصنوعی مضر

تاریخ انتشار: ۱۲ آبان ۱۴۰۲ | کد خبر: ۳۹۰۲۱۲۷۳

به گزارش خبرنگار علم و فناوری ایسکانیوز؛ جامعه بین‌المللی در حال حاضر در مورد هوش مصنوعی مدرن و قابلیت‌های استثنایی آن به دلیل مخاطرات موجود در این فناوری دچار شک و تردید بسیاری شده است. زیرا این فناوری در حال نفوذ در تمام جنبه‌های زندگی ما است.

دانشمندان دانشگاه وارویک در بریتانیا در ابتکاری جالب در حال ساخت یک سلاح مهم در زرادخانه برای کاهش خطرات هوش مصنوعی هستند و نام آن را «لغو یادگیری ماشینی» یا «فراموشی ماشینی» گذاشته‌اند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

آنها روش‌های جدیدی را کشف می‌کنند تا مدل‌های هوش مصنوعی موسوم به شبکه‌های عصبی عمیق، داده‌هایی را که برای جامعه خطرآفرین هستند، به باد فراموشی بسپارند.

البته این کار بسیار دشوار است، زیرا آموزش مجدد برنامه‌های هوش مصنوعی برای فراموش کردن داده‌ها کاری بسیار پرهزینه و دشوار است. شبکه‌های عصبی عمیق مدرن مانند آنهایی که مبتنی بر مدل‌های «زبانی بزرگ» مانند چت‌جی‌پی‌تی و بارد به منابع عظیم اطلاعات برای آموزش نیاز دارند و این کار هفته‌ها یا ماه‌های طول می‌کشد. آنها همچنین برای هر برنامه آموزشی به ده‌ها گیگاوات ساعت برق نیاز دارند و تحقیقات دانشمندان تخمین زده که این میزان برق می‌تواند انرژی هزاران خانوار را برای یک سال تامین کند.

بیشتر بخوانید: پارادوکس هوش مصنوعی؛ فناوری که به اندازه کل کشورها برق مصرف می‌کند

فراموشی ماشینی یک زمینه تحقیقاتی جدید و در حال رشد است که می‌تواند داده‌های دردسرساز را از شبکه‌های عصبی عمیق به سرعت، ارزان و با استفاده از منابع کمتر انرژی حذف کند؛ البته با دقت بالا. دانشمندان علوم کامپیوتر دانشگاه وارویک در این پروژه با دانشمندان «دیپ‌مایند» گوگل همکاری کردند که در زمینه هوش مصنوعی فعالیت می‌کند.

پروفسور «پیتر تریانتافیلو» (Peter Triantafillou)، از گروه علوم کامپیوتر دانشگاه وارویک، می‌گوید: شبکه‌های عصبی عمیق ساختارهای بسیار پیچیده ای هستند که از تریلیون‌ها پارامتر تشکیل شده‌اند. اغلب ما درک دقیقی از چگونگی و چرایی دستیابی آنها به اهداف خود نداریم. با توجه به پیچیدگی آنها و اندازه مجموعه داده‌هایی که برای آموزش به آنها داده می‌شود، این شبکه‌ها ممکن است برای جامعه مضر باشند، چون برخی از آنها از داده‌هایی استفاده می‌کنند که دارای سوگیری‌های مختلف هستند و در نتیجه مطالب کذب منتشر می‌کنند.

او می‌افزاید: این داده‌ها ممکن است منعکس کننده تعصبات موجود، کلیشه‌ها و مفروضات اجتماعی معیوب باشند؛ مانند اینکه پزشکان مرد هستند، پرستاران زن هستند یا حتی تعصبات نژادی. این شبکه‌ها همچنین ممکن است حاوی داده‌هایی با «حاشیه‌نویسی اشتباه» باشند؛ برای مثال، برچسب‌گذاری نادرست موارد، مانند برچسب زدن به یک تصویر به عنوان جعلی بودن یا نبودن.

تریانتافیلو معتقد است که به طور نگران‌کننده‌ای، شبکه‌های عصبی عمیق ممکن است روی داده‌هایی آموزش ببینند که حریم خصوصی افراد را نقض می‌کنند. این چالش بزرگی را برای شرکت‌های فناوری بزرگ ایجاد می‌کند. این حق هر فردی است که درخواست کند داده‌های خود را از هر مجموعه داده و برنامه هوش مصنوعی حذف کند.

او می‌گوید: تحقیق اخیر ما یک الگوریتم جدید «لغو یادگیری ماشینی» به دست آورده است که تضمین می‌کند شبکه‌های عصبی عمیق می‌توانند داده‌های مبهم را بدون به خطر انداختن عملکرد کلی هوش مصنوعی فراموش کنند. این تنها کاری است که نیازها، الزامات و معیارهای موفقیت را در میان سه نوع مختلف داده‌ای که باید فراموش شوند، متمایز می‌کند: سوگیری‌ها، حاشیه‌نویسی‌های اشتباه و مسائل مربوط به حریم خصوصی.

انتهای پیام/

نسترن صائبی صفت کد خبر: 1204847 برچسب‌ها هوش مصنوعی کشور انگلیس

منبع: ایسکانیوز

کلیدواژه: هوش مصنوعی کشور انگلیس شبکه های عصبی عمیق هوش مصنوعی داده هایی شبکه ها داده ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.iscanews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ایسکانیوز» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۰۲۱۲۷۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

عمیق ترین حفره آبی جهان در این منطقه کشف شد

به گزارش همشهری آنلاین به نقل از دیلی میل، مانند سیاهچاله های فضایی در منظومه شمسی، ویژگی های مرموزی نیز روی زمین وجود دارند که گودال های آبی هستند. عمق این حفره های عظیم در اقیانوس های زمین ممکن است به اندازه طول آسمانخراش باشد.

تصور می شود این حفره های مذکور که اواخر عصر یخی به وجود آمده باشند، نقاط اکولوژیکی مهمی هستند که انبوهی از گیاهان و حیوانات در آنها زندگی می کنند. اکنون محققان بزرگترین حفره آبی در جهان را شناسایی کرده اند که در خلیج چتومال واقع در مکزیک قرار دارد.

حفره آبی مذکور به نام «تام جا» (Tamm Ja) در زبان قوم مایا به معنی آب عمیق است و عمق آن به ۴۲۰ متر زیرسطح دریا می رسد. محققان تاکنون هیچ گاه به انتهای این گودال نرسیده اند.

پیش از این محققان تصور می کردند تام جا دومین گودال آبی جهان باشد اما اندازه گیری های جدید حاکی از آن است که عمق آن از گودال رکورد دار پیشین که در چین قرار دارد، بیشتر است.

نمونه برداری و بررسی حفره آبی تام جا در سپتامبر ۲۰۲۱ میلادی انجام شد اما محققان سال قبل از وجود آن خبر دادند. به هر روی آنها عمق این حفره را ۲۷۴.۴ متر تخمین می زدند که معادل ارتفاع برج ویلیامز در هیوستن آمریکا است.

اما در واقع تخمین های پیشین ۴۰۰ فوت کوتاه تر از عمق تایید شده فعلی هستند. محققان طی یک بررسی جدید در چتومال مکزیک توانستند با کمک ابزار پروفایلر CTD (رسانایی، دما و عمق) در دسامبر سال گذشته به تخمین دقیق تری از عمق تام جا دست یابند.

این دستگاه مجموعه ای از کاوشگرهاست که به یک قاب فلزی دایره شکل متصل هستند و به وسیله یک کابل به اعماق آب ارسال می شود.

قبل از آن محققان از روش نگاشت صداگیر پژواک(echo sounder mapping) استفاده کردند که با کمک پالس های امواج صوتی عمق را تخمین می زند.

در دسامبر ۲۰۲۳ میلادی یک ماموریت اکتشافی غواصی انجام شد تا شرایط محیطی در این گودال شناسایی شود. سوابق پروفایلر CTD از ۴۲۰ متر زیر سطح دریا فراتر رفت و هنوز به انتهای گودال نیز نرسیده بود. به این ترتیب تام جا به عنوان عمیق ترین گودال آبی جهان تایید شد.

کد خبر 848756 منبع: مهر برچسب‌ها خبر مهم آب مکزیک فضا