محققان می‌گویند تاباندن تصاویر شبح‌گونه روی جاده می‌تواند سامانههای دستیار راننده را در خودروهای خودران به اشتباه بیندازد
چالش گول‌خوردن خودران‌ها
نگاهی به دنیای خبرهای فناوری خودرو نشان می‌دهد رقابت سختی میان غول‌های خودروسازی در توسعه فناوری‌های خودروهای بدون راننده (خودران) در جریان است. نه‌تنها خودروسازها كه این روزها حتی غول‌های فناوری نظیر اپل و سونی نیز وارد میدان رقابت با خودروسازان سنتی شده و از نخستین نمونه‌های خودروهای خودران خود در حد طرح اولیه یا نمونه مفهومی رونمایی كرده‌اند. در این مسیر موفقیت‌های قابل توجهی نیز تا به امروز به دست آمده است، هر چند هنوز خودران‌ها به راننده‌ای حواس‌جمع پشت فرمان نیاز دارند تا در موقع لازم اختیار هدایت خودرو را به دست بگیرد. با این حال انتشار خبرهای ضد و نقیض از عملكرد این خودروها به‌ویژه در بخش مرتبط با الگوریتم‌های تصمیم‌گیری آنها از این نظر كه در شرایط حساس و خطیر رانندگی كه ناگزیر از انتخاب خواهد بود، خودرو بایستی جان راننده و سرنشینان خود را یا عابران پیاده نجات دهد، از موضوعاتی است كه در سال‌های اخیر بسیار بحث‌برانگیز بوده است. با این حال به‌تازگی موضوع چالش‌برانگیز دیگری هم برای آسیب‌پذیربودن فناوری خودروهای خودران مطرح شده است؛ این كه می‌توان با تاباندن نورهای مربوط به تصاویر غیرواقعی روی جاده، سامانههای كنترلی این خودروها را فریب داد، از داغ‌ترین سوژه‌های روزی فناوری خودروهای خودران است كه حالا به چالشی تازه برای مهندسان تسلا و دیگر شركت‌های مطرح در حوزه طراحی و توسعه خودروهای خودران تبدیل شده است.
فناوری خودروسازی، پس از سال‌ها تحقیق و توسعه، به چنان پیشرفتی دست یافته كه به نظر می‌رسد می‌تواند به زودی جای رانندگان انسانی را بگیرد. اكنون خودروها توانایی پشتیبانی از سامانههای رانندگی نیمه‌خودران یا تمام‌خودران را دارند. از طرفی در حالی‌كه استفاده از خودروهای نیمه یا تمام خودران در سراسر دنیا آغاز شده است، به‌كارگیری سامانههای ارتباطی وسایل نقلیه كه مجموعه‌ای از پروتكل‌های تعیین‌شده برای تبادل اطلاعات بین وسایل نقلیه و واحدهای كنار جاده‌هاست، به تاخیر افتاده است.
از این سامانه‌‌ها و پروتكل‌ها می‌توان به سامانههای ارتباطی V2V (وسیله نقلیه با وسیله نقلیه)، V2I (وسیله نقلیه با زیرساخت‌ها)، V2P (وسیله نقلیه با عابر پیاده)، V2X (وسیله نقلیه با هر چیز دیگر)، اشاره كرد. این سامانه‌‌ها تمام اطلاعات مربوط به خطوط جاده‌ها، علائم راهنمایی و رانندگی و موانع را در اختیار سامانههای خودران خودروها قرار می‌دهند.
از آنجا‌كه این سامانههای ارتباطی در بیشتر مكان‌های دنیا هنوز به‌كار گرفته نشده‌اند، خودروهای خودران برای انجام دادن كار یك راننده انسانی، تا حد بسیار زیادی به حسگرها وابسته‌اند. همچنین برای درك مجازی سه بعدی ۳۶۰ درجه محیط فیزیكی اطراف خودرو، از حسگرهای فعال و غیرفعال استفاده می‌شود.
اما این حسگرها نمی‌توانند در نبود سامانههای ارتباطی وسایل نقلیه، درك كاملا درست و معتبری از موانع موجود در محیط داشته باشند. این وضعیت باعث شده حملات مختلفی به سامانههای خودران خودروها شود. برخی از این حملات می‌توانند كاری كنند كه خودرو، علائم راهنمایی و رانندگی را به‌درستی تشخیص ندهد و درك صحیحی از موانع نداشته باشد و حتی در مسیر مخالف جاده حركت كند.
اكنون جمعی از محققان توسعه فناوری وسایل نقلیه خودران پس از تكمیل آزمایش‌های خود می‌گویند، تصاویر غیرواقعی شبح‌گونه می‌توانند به سامانههای دستیار راننده حمله كرده و از كارایی خودروهای خودران بكاهند.
حملات تصاویر شبح‌گونه
اگر تصویر شبح‌گونه انسانی در مقابل یك خودروی مجهز به سامانه پیشرفته دستیار راننده پخش شود، آیا خودرو آن را با انسانی واقعی اشتباه می‌گیرد؟ آیا فناوری خودكار موبایل‌آی630پرو (Mobileye 630 PRO)، تصاویر پخش شده علائم راهنمایی و رانندگی روی جاده‌ها را واقعی درنظر گرفته و حركات خود را با آنها تنظیم می‌كند؟
اینها پرسش‌هایی است كه گروهی از محققان فعال در زمینه خودروهای خودران پس از بررسی‌های دقیق و كامل به آنها پاسخ داده‌اند. آنها می‌گویند با استفاده از تصاویر غیرواقعی و شبح‌گونه، می‌توان یك سامانه دستیار راننده را به اشتباه انداخت و كنترل خودروی خودران را به دست گرفت. در واقع حملات تصاویر غیرواقعی و شبح‌گونه، یكی دیگر از خطراتی است كه این خودروهای خودران را تهدید می‌كند.
این گروه تحقیقاتی همراه با تنظیم مقاله خود، تصاویر ویدئویی از آزمایش‌ها و نتایج آزمایش خود تهیه كردند و در اختیار خودروسازان خودروهای خودران قرار دادند.
آزمایش خودروهای تسلا
محققان برای آزمایش نظریه‌شان، از خودروهای خودران تسلا مدل ایكس و سامانههای مجهز به فناوری موبایل‌آی630پرو استفاده كردند. این محققان همچنین از یك سری تصاویر انسان، علائم راهنمایی و رانندگی در خصوص محدودیت سرعت و البته خطوط تغییر جهت روی جاده‌ها استفاده كردند. آنها می‌خواستند بدانند آیا این تصاویر می‌تواند كاری كند كه سامانه دستیار رانندگی خودرو آنها را واقعی در نظر گرفته و مرتكب خطا شود. در واقع آیا اگر این تصاویر در مقابل خودروی مجهز به سامانه دستیار راننده با استفاده از پروژكتور، پخش شوند، خودروی خودرانی مانند تسلا مدل ایكس اشتباه كرده و ناگهان ترمز می‌كند؟
ویدئوی تهیه شده از این اتفاق، نشان می‌دهد خودروی خودران با مشاهده چنین تصویری در مقابل خود، سرعت ۳۰ كیلومتر در ساعت خود را كاهش داد و به سرعت ۲۳ كیلومتر در ساعت رساند. در واقع، سامانه دستیار راننده این خودرو، تصویر شبح‌گونه انسان را واقعی تصور كرده و از سرعت خودرو كاست.
منظور از تصاویر شبح‌گونه، تصاویری بدون عمق است كه در مقابل خودرو پخش شده و باعث می‌شود، سامانههای دستیار راننده و سامانههای خودكار به اشتباه افتاده و آن تصاویر را واقعی فرض كنند. این تصاویر می‌تواند هر چیزی باشد. مثلا تصویر شبح‌گونه یك مانع در جاده (مانند یك انسان، خودروی دیگر، كامیون یا موتور سوار) یا تصویر بخشی از جاده یا علائم راهنمایی و رانندگی باشد.
اما چرا خودروهای خودران معروفی مانند تسلا، مجهز به نوعی سامانه دستیار راننده است كه دچار چنین اشتباه مهلكی شده و تصاویر غیرواقعی و شبح‌گونه را واقعی می‌پندارد؟
محققان در پاسخ به این پرسش می‌گویند، سیاست «احتیاط بیشتر بهتر از پشیمانی در آخر كار است» موجب شده این سامانه‌‌ها حتی تصاویر شبح‌گونه مقابل خودرو را واقعی در نظر بگیرند. این سامانه حتی زمانی‌كه حسگرهای دیگر خودرو مانند حسگرهای رادار و فراصوت، وجود چنین مانعی را هشدار نمی‌دهند، ترجیح می‌دهد متوقف شود تا از احتمال حادثه‌ای ناگوار پیشگیری كند.
تغییر جهت اشتباه
محققان تصاویر غیرواقعی و شبح‌گونه خطوط خیابان را هم مورد آزمایش قرار دادند. آنها تصاویر این خطوط خیالی را كه باعث می‌شد خودرو در مسیری اشتباه به راه خود ادامه دهد،در مقابل خودرو منتشر كردند و سامانه دستیار راننده باز هم مرتكب خطا شد و خودرو در مسیر نادرست قرار گرفت.
مشكل سامانههای موبایل‌آی (Mobileye) و تسلا در مدل شناسایی و تشخیص تصاویر است كه باعث می‌شود تصاویر شبح‌گونه اجسام مختلف را هم واقعی در نظر گرفته
و به آنها واكنش نشان دهد.
به طور كلی، در صورت حمله به سامانههای پیشرفته دستیار راننده و سامانههای خودكار خودرو با تصاویر شبه‌گونه اجسام، آنها به‌راحتی از پای درآمده و كارایی خود را از دست می‌دهند.
در حال حاضر، ابزار خودكار تسلا، از بهترین سامانه‌‌ها در ابزارهای خودران است و سامانههای موبایل‌آی630پرو و تسلا مدل ایكس، از پیشرفته‌ترین سامانههای دستیار راننده و فناوری‌های خودكار هستند.
در سامانههای خودكار تسلا، رانندگی خودكار كاملا محدود انجام می‌شود و این سامانه‌‌ها روی حالت خودكار كامل قرار نمی‌گیرند. این وسیله نقلیه، فقط گاهی اوقات كنترل امور را كاملا به دست می‌گیرد و البته در این گونه مواقع به راننده هم هشدار می‌دهد.
همچنین محققان می‌گویند، هیچ راننده‌ای نباید به خودروی تسلا اجازه دهد بدون نظارت آنها حركت كند؛ زیرا این سامانه‌‌ها، كنترل‌كننده‌هایی نیستند كه بتوانند خودرو را در حالت كاملا مستقل قرار دهند.
این تیم تحقیقاتی تمام یافته‌های خود در مورد عملكرد خودروهای تسلا و سامانههای پیشرفته دستیار راننده را منتشر كردند. این محققان می‌گویند، یكی از واكنش‌های بد این گونه سامانههای دستیار راننده، اشتباه گرفتن تصاویر غیرواقعی خطوط جاده‌هاست كه مقابل خودروها منتشر شده بود تا جایی‌كه خودروی تسلا مدل ایكس، این خطوط را واقعی پنداشت و وارد مسیر اشتباهی شد. چنین وضعیتی نشان می‌دهد كه هنوز نمی‌توان به سامانههای پیشرفته دستیار راننده خودروهای خودران كاملا اعتماد كرد و بیشتر مواقع راننده‌ها باید خودشان كنترل خودرو را به‌دست بگیرند.
محققان در نتیجه‌گیری بررسی‌های خود گفته‌اند، هنوز سامانههای پیشرفته دستیار راننده و سامانههای خودكار تمام یا نیمه خودران نمی‌توانند درك صحیحی از تصاویر بدون عمق و شبح‌گونه داشته باشند و این سامانه‌‌ها در این زمینه آنقدر حساس هستند كه به‌راحتی می‌توان كنترل آنها را به دست گرفت.
آنها ادامه می‌دهند، حملات به این سامانه‌‌ها را می‌توان به‌راحتی با یك پهپاد مجهز به پروژكتور انجام داد. به این ترتیب كه می‌توان تصاویر شبح‌گونه اجسام واقعی را جلوی این خودروها منتشر كرد و سامانههای دستیار راننده و همچنین سامانههای خودكار آنها را به اشتباه انداخت و كنترل‌شان را كاملا به‌دست گرفت.
منابع: techxplore و iacr.org
راهكار چیست؟
آیا برای رفع مشكل سامانههای دستیار راننده و خودكار راه حلی هم وجود دارد؟ محققان مدلی را پیشنهاد داده‌اند كه می‌تواند محیط، سطح و نور منعكس‌شده اطراف جسمی را كه مشاهده كرده است بررسی و تحلیل كند و تصاویر شبح‌گونه را از موانع واقعی تشخیص دهد.
آنها همچنین می‌گویند، با استفاده از سامانههای ارتباطی وسایل نقلیه می‌توانند تا حدی از احتمال خطرناك حملات تصاویر شبح‌گونه به خودروهای خودران بكاهند. البته آنها معتقدند سامانههای پیشرفته راننده و همچنین سامانههای خودكار تسلا، از بهترین نمونه‌های بازار فناوری هستند. اما این بررسی‌ها و آزمایش‌ها نشان می‌دهد، خودروهای خودرانی مانند تسلا، باید بتوانند بر این مشكلات خود غلبه كنند و مجهز به سامانههای دفاعی در برابر این گونه حملات شوند تا كارایی‌شان در عمل افزایش یابد. به هر روی این مشكلی است كه با توسعه الگوریتم‌ها و فناوری خودروهای خودران به تدریج بایستی حل شود. در غیر این صورت هیچ كس حاضر نخواهد شد امنیت خود را به توانایی شناختی رباتی پیوند بزند كه از درك تفاوت میان تصویر و واقعیت عینی عاجز است.
از این سامانه‌‌ها و پروتكل‌ها می‌توان به سامانههای ارتباطی V2V (وسیله نقلیه با وسیله نقلیه)، V2I (وسیله نقلیه با زیرساخت‌ها)، V2P (وسیله نقلیه با عابر پیاده)، V2X (وسیله نقلیه با هر چیز دیگر)، اشاره كرد. این سامانه‌‌ها تمام اطلاعات مربوط به خطوط جاده‌ها، علائم راهنمایی و رانندگی و موانع را در اختیار سامانههای خودران خودروها قرار می‌دهند.
از آنجا‌كه این سامانههای ارتباطی در بیشتر مكان‌های دنیا هنوز به‌كار گرفته نشده‌اند، خودروهای خودران برای انجام دادن كار یك راننده انسانی، تا حد بسیار زیادی به حسگرها وابسته‌اند. همچنین برای درك مجازی سه بعدی ۳۶۰ درجه محیط فیزیكی اطراف خودرو، از حسگرهای فعال و غیرفعال استفاده می‌شود.
اما این حسگرها نمی‌توانند در نبود سامانههای ارتباطی وسایل نقلیه، درك كاملا درست و معتبری از موانع موجود در محیط داشته باشند. این وضعیت باعث شده حملات مختلفی به سامانههای خودران خودروها شود. برخی از این حملات می‌توانند كاری كنند كه خودرو، علائم راهنمایی و رانندگی را به‌درستی تشخیص ندهد و درك صحیحی از موانع نداشته باشد و حتی در مسیر مخالف جاده حركت كند.
اكنون جمعی از محققان توسعه فناوری وسایل نقلیه خودران پس از تكمیل آزمایش‌های خود می‌گویند، تصاویر غیرواقعی شبح‌گونه می‌توانند به سامانههای دستیار راننده حمله كرده و از كارایی خودروهای خودران بكاهند.
حملات تصاویر شبح‌گونه
اگر تصویر شبح‌گونه انسانی در مقابل یك خودروی مجهز به سامانه پیشرفته دستیار راننده پخش شود، آیا خودرو آن را با انسانی واقعی اشتباه می‌گیرد؟ آیا فناوری خودكار موبایل‌آی630پرو (Mobileye 630 PRO)، تصاویر پخش شده علائم راهنمایی و رانندگی روی جاده‌ها را واقعی درنظر گرفته و حركات خود را با آنها تنظیم می‌كند؟
اینها پرسش‌هایی است كه گروهی از محققان فعال در زمینه خودروهای خودران پس از بررسی‌های دقیق و كامل به آنها پاسخ داده‌اند. آنها می‌گویند با استفاده از تصاویر غیرواقعی و شبح‌گونه، می‌توان یك سامانه دستیار راننده را به اشتباه انداخت و كنترل خودروی خودران را به دست گرفت. در واقع حملات تصاویر غیرواقعی و شبح‌گونه، یكی دیگر از خطراتی است كه این خودروهای خودران را تهدید می‌كند.
این گروه تحقیقاتی همراه با تنظیم مقاله خود، تصاویر ویدئویی از آزمایش‌ها و نتایج آزمایش خود تهیه كردند و در اختیار خودروسازان خودروهای خودران قرار دادند.
آزمایش خودروهای تسلا
محققان برای آزمایش نظریه‌شان، از خودروهای خودران تسلا مدل ایكس و سامانههای مجهز به فناوری موبایل‌آی630پرو استفاده كردند. این محققان همچنین از یك سری تصاویر انسان، علائم راهنمایی و رانندگی در خصوص محدودیت سرعت و البته خطوط تغییر جهت روی جاده‌ها استفاده كردند. آنها می‌خواستند بدانند آیا این تصاویر می‌تواند كاری كند كه سامانه دستیار رانندگی خودرو آنها را واقعی در نظر گرفته و مرتكب خطا شود. در واقع آیا اگر این تصاویر در مقابل خودروی مجهز به سامانه دستیار راننده با استفاده از پروژكتور، پخش شوند، خودروی خودرانی مانند تسلا مدل ایكس اشتباه كرده و ناگهان ترمز می‌كند؟
ویدئوی تهیه شده از این اتفاق، نشان می‌دهد خودروی خودران با مشاهده چنین تصویری در مقابل خود، سرعت ۳۰ كیلومتر در ساعت خود را كاهش داد و به سرعت ۲۳ كیلومتر در ساعت رساند. در واقع، سامانه دستیار راننده این خودرو، تصویر شبح‌گونه انسان را واقعی تصور كرده و از سرعت خودرو كاست.
منظور از تصاویر شبح‌گونه، تصاویری بدون عمق است كه در مقابل خودرو پخش شده و باعث می‌شود، سامانههای دستیار راننده و سامانههای خودكار به اشتباه افتاده و آن تصاویر را واقعی فرض كنند. این تصاویر می‌تواند هر چیزی باشد. مثلا تصویر شبح‌گونه یك مانع در جاده (مانند یك انسان، خودروی دیگر، كامیون یا موتور سوار) یا تصویر بخشی از جاده یا علائم راهنمایی و رانندگی باشد.
اما چرا خودروهای خودران معروفی مانند تسلا، مجهز به نوعی سامانه دستیار راننده است كه دچار چنین اشتباه مهلكی شده و تصاویر غیرواقعی و شبح‌گونه را واقعی می‌پندارد؟
محققان در پاسخ به این پرسش می‌گویند، سیاست «احتیاط بیشتر بهتر از پشیمانی در آخر كار است» موجب شده این سامانه‌‌ها حتی تصاویر شبح‌گونه مقابل خودرو را واقعی در نظر بگیرند. این سامانه حتی زمانی‌كه حسگرهای دیگر خودرو مانند حسگرهای رادار و فراصوت، وجود چنین مانعی را هشدار نمی‌دهند، ترجیح می‌دهد متوقف شود تا از احتمال حادثه‌ای ناگوار پیشگیری كند.
تغییر جهت اشتباه
محققان تصاویر غیرواقعی و شبح‌گونه خطوط خیابان را هم مورد آزمایش قرار دادند. آنها تصاویر این خطوط خیالی را كه باعث می‌شد خودرو در مسیری اشتباه به راه خود ادامه دهد،در مقابل خودرو منتشر كردند و سامانه دستیار راننده باز هم مرتكب خطا شد و خودرو در مسیر نادرست قرار گرفت.
مشكل سامانههای موبایل‌آی (Mobileye) و تسلا در مدل شناسایی و تشخیص تصاویر است كه باعث می‌شود تصاویر شبح‌گونه اجسام مختلف را هم واقعی در نظر گرفته
و به آنها واكنش نشان دهد.
به طور كلی، در صورت حمله به سامانههای پیشرفته دستیار راننده و سامانههای خودكار خودرو با تصاویر شبه‌گونه اجسام، آنها به‌راحتی از پای درآمده و كارایی خود را از دست می‌دهند.
در حال حاضر، ابزار خودكار تسلا، از بهترین سامانه‌‌ها در ابزارهای خودران است و سامانههای موبایل‌آی630پرو و تسلا مدل ایكس، از پیشرفته‌ترین سامانههای دستیار راننده و فناوری‌های خودكار هستند.
در سامانههای خودكار تسلا، رانندگی خودكار كاملا محدود انجام می‌شود و این سامانه‌‌ها روی حالت خودكار كامل قرار نمی‌گیرند. این وسیله نقلیه، فقط گاهی اوقات كنترل امور را كاملا به دست می‌گیرد و البته در این گونه مواقع به راننده هم هشدار می‌دهد.
همچنین محققان می‌گویند، هیچ راننده‌ای نباید به خودروی تسلا اجازه دهد بدون نظارت آنها حركت كند؛ زیرا این سامانه‌‌ها، كنترل‌كننده‌هایی نیستند كه بتوانند خودرو را در حالت كاملا مستقل قرار دهند.
این تیم تحقیقاتی تمام یافته‌های خود در مورد عملكرد خودروهای تسلا و سامانههای پیشرفته دستیار راننده را منتشر كردند. این محققان می‌گویند، یكی از واكنش‌های بد این گونه سامانههای دستیار راننده، اشتباه گرفتن تصاویر غیرواقعی خطوط جاده‌هاست كه مقابل خودروها منتشر شده بود تا جایی‌كه خودروی تسلا مدل ایكس، این خطوط را واقعی پنداشت و وارد مسیر اشتباهی شد. چنین وضعیتی نشان می‌دهد كه هنوز نمی‌توان به سامانههای پیشرفته دستیار راننده خودروهای خودران كاملا اعتماد كرد و بیشتر مواقع راننده‌ها باید خودشان كنترل خودرو را به‌دست بگیرند.
محققان در نتیجه‌گیری بررسی‌های خود گفته‌اند، هنوز سامانههای پیشرفته دستیار راننده و سامانههای خودكار تمام یا نیمه خودران نمی‌توانند درك صحیحی از تصاویر بدون عمق و شبح‌گونه داشته باشند و این سامانه‌‌ها در این زمینه آنقدر حساس هستند كه به‌راحتی می‌توان كنترل آنها را به دست گرفت.
آنها ادامه می‌دهند، حملات به این سامانه‌‌ها را می‌توان به‌راحتی با یك پهپاد مجهز به پروژكتور انجام داد. به این ترتیب كه می‌توان تصاویر شبح‌گونه اجسام واقعی را جلوی این خودروها منتشر كرد و سامانههای دستیار راننده و همچنین سامانههای خودكار آنها را به اشتباه انداخت و كنترل‌شان را كاملا به‌دست گرفت.
منابع: techxplore و iacr.org
راهكار چیست؟
آیا برای رفع مشكل سامانههای دستیار راننده و خودكار راه حلی هم وجود دارد؟ محققان مدلی را پیشنهاد داده‌اند كه می‌تواند محیط، سطح و نور منعكس‌شده اطراف جسمی را كه مشاهده كرده است بررسی و تحلیل كند و تصاویر شبح‌گونه را از موانع واقعی تشخیص دهد.
آنها همچنین می‌گویند، با استفاده از سامانههای ارتباطی وسایل نقلیه می‌توانند تا حدی از احتمال خطرناك حملات تصاویر شبح‌گونه به خودروهای خودران بكاهند. البته آنها معتقدند سامانههای پیشرفته راننده و همچنین سامانههای خودكار تسلا، از بهترین نمونه‌های بازار فناوری هستند. اما این بررسی‌ها و آزمایش‌ها نشان می‌دهد، خودروهای خودرانی مانند تسلا، باید بتوانند بر این مشكلات خود غلبه كنند و مجهز به سامانههای دفاعی در برابر این گونه حملات شوند تا كارایی‌شان در عمل افزایش یابد. به هر روی این مشكلی است كه با توسعه الگوریتم‌ها و فناوری خودروهای خودران به تدریج بایستی حل شود. در غیر این صورت هیچ كس حاضر نخواهد شد امنیت خود را به توانایی شناختی رباتی پیوند بزند كه از درك تفاوت میان تصویر و واقعیت عینی عاجز است.
