کانال علم نجوم طبیعت بروز ترین اخبار رصدی کشور و اخبار نجومی... ارتباط و تبلیغ @nojom01 ادرس اینستاگرامی کانال yon.ir/R3oW7 با فقط عضو شدن در این کانال علمی به نیاز مندان کمک کنید در آینده ماهی یک ویدیو به اشتراک گذاشته میشه از شادی نیاز مند
هوش مصنوعی سازندگان خود را فریب داد.. ➖➖➖➖➖➖➖➖➖
هوش مصنوعی سازندگان خود را فریب داد
پژوهشگران در بررسی جدیدی متوجه شدند یکی از سیستمهای مبتنی بر هوش مصنوعی که کار تبدیل تصاویر را به عهده دارد، برخی از اطلاعات را پنهان میکند.
➖➖➖➖➖➖➖➖➖
تککرانچ، پژوهش جدید "دانشگاه استنفورد"(Stanford University) و گوگل، هم ترسناک و هم جالب است. براساس این گزارش، یک عامل یادگیری ماشینی که تصاویر هوایی را به نقشههای خیابانی تبدیل میکند، میتواند به صورت نامحسوس به پنهان کردن اطلاعاتی که بعدا به آنها نیاز دارد بپردازد.
هدف پژوهشگران از ابداع این سیستم، بهبود فرآیند تبدیل تصاویر ماهوارهای به نقشههای مشهور گوگل بود. آنها برای این کار، از یک شبکه عصبی موسوم به "سایکلگن"(CycleGAN) استفاده کردند که میتواند کار تبدیل دو نوع تصویر را با دقت و کارآیی لازم انجام دهد.
عملکرد سیستم، در ابتدا بسیار خوب بود اما بعدها گروه پژوهشی متوجه شدند که سیستم، تصاویر هوایی را از روی نقشههای خیابانی بازسازی میکند و جزئیات بسیاری نشان میدهد که جدید به نظر نمیرسند. برای مثال، نورگیرهای سقف که در مرحله ایجاد نقشه خیابان حذف شده بودند، هنگام بازگرداندن فرآیند، دوباره ظاهر شدند.
اگرچه برقراری تعادل میان کارهای داخلی یک شبکه عصبی، دشوار است اما این گروه پژوهشی به راحتی توانستند دادههای تولیدی سیستم را بررسی کنند و با کمی آزمایش متوجه شدند که سایکلگن میتواند این کار را سریعتر انجام دهد.
هدف آنها، ارائه سیستمی بود که بتواند از عهده تحلیل ویژگیهای هر نقشهای برآید و آنها را با ویژگیهای درست نقشه دیگر منطبق کند اما آنچه سیستم انجام داد، تنها ارائه یک نقشه هوایی نزدیک به نسخه اصلی آن بود.
در واقع، سیستم یاد نگرفت چگونه یک نقشه را از روی نقشه دیگر بسازد، بلکه تنها یاد گرفت ویژگیهای یکی از نقشهها را به شکل زیرکانهای روی الگوهای نقشه دیگر کدگذاری کند. جزئیات نقشه هوایی از جمله هزاران رنگ که چشم انسان قادر به تشخیص آنها نیست اما رایانه آنها را تشخیص میدهد، به صورت محرمانه روی دادههای بصری واقعی نقشه خیابان ثبت میشوند.
رایانه یاد گرفت هر نقشه هوایی را روی هر نقشه خیابانی کدگذاری کند. سیستم حتی به نقشه واقعی خیابان هم توجه نمیکند بلکه به گفته پژوهشگران، همه دادههای مورد نیاز برای ساخت تصویر هوایی را روی یک نقشه خیابانی متفاوت قرار میدهد.
خطوط رنگارنگ نقشه c، تجسم تفاوتهای کوچکی هستند که رایانه به صورت سیستماتیک نشان میدهد.