سیستم FSD بتا تسلا با تصمیم‌گیری مشابه انسان‌ها خطرآفرین می‌شود
این ویدئو توسط یک اکانت توییتری منتشر شده و عملکرد یک دستگاه تسلا را که به به‌روزرسانی FSD بتا نسخه 11.4.1 مجهز شده است را در آبوهوای آفتابی و دید کاملا باز نسبت به عابران پیاده نشان می‌دهد. به نزدیک‌شدن تسلا با سرعت 45 کیلومتر بر ساعت به عابر پیاده، انسان پای خود را روی خط گذر از خیابان می‌گذارد. خودرو در این وهله 45 متر با او فاصله دارد.
محل عبور عابر پیاده هم به خوبی توسط تابلوهای خوانا در دوطرف مسیر مشخص شده بوده و سیستم تسلا توانایی شناسایی آن را داشته است. خط سنتی عابرپیاده هم زیر پای عابر نقش بسته اما حال واکنش خودروی تسلا پس از دیدن عابر پیاده این‌گونه بوده که پس از کمی مکث، سرعتش را کمی کاهش داده اما به‌جای توقف به رانندگی ادامه می‌دهد و درحالی‌که عابر به میانه مسیر خود می‌رسد، از کنار آن عبور می‌کند.
راننده در توییت خود نوشت:
ابتدا کمی سرعتش را کم کرد تا درصورت لزوم متوقف شود اما بعد ادامه مسیر را تصمیم ایمن دانست. این کار یکی از باحال‌ترین و مضخرف‌ترین چیزهایی بود که از نسخه 11.4.1 سیستم خودران تسلا دیده بودم. عابر را تشخیص داد اما به‌جای ترمزگرفتن مانند یک انسان تصمیم گرفت که می‌تواند به‌موقع شخص را رد کند.
برخلاف آنچه که راننده آن را هیجان‌انگیز می‌داند، این رفتار از سوی هوش‌مصنوعی خطرآفرین است و یک نقض قانون ترافیکی به حساب می‌آید. با ورود عابر به خط گذر از خیابان، راننده موظف است خودروی خود را متوقف کند اما خودروی تسلا تنها این‌کار را نکرد بلکه درحین عبور شخص از روی خط رد شد. از آنجا که سیستم خودرو تشخیص عابرپیاده را تایید کرده بوده است، تصمیم‌گیری متفاوت آن جای نگرانی دارد.
درست است که کسی در این اتفاق آسیب ندید و تسلای یادشده طبق نظر راننده برای ترمزگرفتن سرعت خود را کاهش داد اما این موارد توجیه‌کننده رفتار غیرمنتظره آن نیستند. حتی چون برخی راننده‌های تهاجمی این کار را انجام می‌دهند به این معنی نیست که انجام آن توسط سیستم هوش مصنوعی بلامانع است و می‌تواند رفتار خطرناک انسانی را بازآفرینی کند.
مشخصا این یک نقص بزرگ در برنامه سیستم FSD بتا تسلا محسوب می‌شود اما برخی طرفداران تسلا بدون به‌کارگیری منطق آن را کاری عادی و اتفاقی نه‌چندان خاص می‌دانند. نظر شما درباره رفتارهای غیرمنتظر این هوش مصنوعی چیست؟ آیا می‌توان برای این سیستم‌ها جایی برای خطا قرار داد یا صرفا باید مطابق برنامه خود عمل کنند؟ آیا هوش مصنوعی به جایی خواهد رسید که تصمیمات خود را جدا از برنامه اصلی بگیرد؟