سواد هوش مصنوعی؛ مهارت جدیدی که دریانوردان به آن نیاز دارند
هم‌زمان با بازنگری جامع کنوانسیون و کد STCW توسط سازمان بین‌المللی دریانوردی، پیشنهاد شده است «سواد هوش مصنوعی» به‌عنوان یکی از مهارت‌های رسمی دریانوردان تعریف شود؛ مهارتی که به خدمه اجازه می‌دهد علاوه بر استفاده از سامانه‌های هوش مصنوعی، محدودیت‌ها و خطا‌های احتمالی آنها را تشخیص دهند و در شرایط حساس، توصیه ماشین را نادیده بگیرند.
کد خبر: ۱۰۸۸۹۷
به گزارش گروه بین‌الملل مانا به نقل از Seatrade Maritime News|؛ بازنگری جامع کنوانسیون و کد STCW می‌تواند فرصت مهمی برای تعیین چارچوب استفاده ایمن و مسئولانه از هوش مصنوعی در صنعت کشتیرانی باشد.
کاپیتان پرادیپ چاولا، مدیرعامل MarinePALS و رئیس GlobalMET، در مقاله‌ای در Seatrade Maritime News پیشنهاد کرده است که «سواد هوش مصنوعی» در چارچوب بازنگری STCW به یک شایستگی شناخته‌شده برای دریانوردان تبدیل شود.
به گفته وی، هوش مصنوعی با سرعتی بیشتر از استانداردهای آموزشی موجود وارد عملیات دریایی شده است و بازنگری فعلی STCW فرصتی کم‌سابقه برای ایجاد یک استاندارد مشترک درباره استفاده ایمن از این فناوری در دریا فراهم می‌کند.
هوش مصنوعی هم‌اکنون وارد کشتی‌ها شده است
هوش مصنوعی در بخش‌های مختلف صنعت کشتیرانی مورد استفاده قرار گرفته است. تحلیل داده‌های تجهیزات و ماشین‌آلات، شناسایی روندهای مربوط به تعمیر و نگهداری، بهینه‌سازی مسیر بر اساس وضعیت آب‌وهوا، کاهش مصرف سوخت و جست‌وجوی مقررات پیچیده از جمله کاربردهای این فناوری هستند.
استفاده صحیح از هوش مصنوعی می‌تواند حجم کار دریانوردان را کاهش داده و اطلاعات مورد نیاز را سریع‌تر در اختیار آنها قرار دهد.
با این حال، نویسنده هشدار می‌دهد که خروجی روان و مطمئن یک سیستم هوش مصنوعی لزوماً به معنای درست بودن آن نیست. یک سیستم هوش مصنوعی ممکن است پاسخی دقیق و متقاعدکننده ارائه کند، اما اطلاعات آن نادرست باشد.
از این رو، دریانوردان باید بتوانند اطلاعات ساختگی، سوگیری، کمبود داده و خطرات مرتبط با امنیت اطلاعات را در خروجی سیستم‌های هوش مصنوعی تشخیص دهند.
دریانوردان نباید به دانشمند داده تبدیل شوند
پیشنهاد مطرح‌شده این نیست که دریانوردان به متخصصان علوم داده تبدیل شوند؛ بلکه آنها باید حداقل مهارت لازم برای استفاده ایمن از هوش مصنوعی را داشته باشند.
بر اساس این دیدگاه، دریانورد باید بداند یک سیستم هوش مصنوعی چه محدودیت‌هایی دارد، چگونه می‌توان خروجی آن را بررسی کرد و چه زمانی باید توصیه سیستم را با اطلاعات واقعی و مشاهدات مستقیم مقایسه کرد.
برای مثال، اگر یک سیستم هوش مصنوعی بر اساس اطلاعات مربوط به وضعیت آب‌وهوا، ترافیک دریایی و مصرف سوخت، مسیر خاصی را پیشنهاد کند، افسر کشتی نباید صرفاً به دلیل ارائه شدن این پیشنهاد از سوی سیستم آن را اجرا کند.
او باید بررسی کند که آیا اطلاعات مورد استفاده سیستم به‌روز است، آیا محدودیت‌های عملیاتی کشتی در نظر گرفته شده و آیا پیشنهاد ارائه‌شده با مشاهدات و شرایط واقعی روی پل فرماندهی مطابقت دارد یا خیر.
همین رویکرد باید در زمینه‌هایی مانند هشدارهای تعمیر و نگهداری پیش‌بینانه، برنامه‌ریزی محموله و جست‌وجوی مقررات نیز اعمال شود.
وارد کردن یک فرمان به هوش مصنوعی، «شایستگی» محسوب نمی‌شود
در این گزارش تأکید شده است که دانستن نحوه نوشتن یک فرمان یا کار با رابط کاربری یک سیستم هوش مصنوعی، به‌تنهایی مهارت محسوب نمی‌شود.
«سواد هوش مصنوعی» به معنای درک محدودیت‌های سیستم، بررسی خروجی آن در شرایط واقعی و پذیرش مسئولیت تصمیم نهایی است.
دریانوردان همواره آموزش دیده‌اند که اطلاعات همکاران، محاسبات و داده‌های مختلف را بررسی و با یکدیگر مقایسه کنند. به اعتقاد نویسنده، همین رویکرد انتقادی باید در مواجهه با ماشین نیز وجود داشته باشد؛ به‌ویژه زمانی که یک سیستم، پاسخی سریع، دقیق و بسیار مطمئن به نظر می‌رساند.
فرصت مهم بازنگری STCW
سازمان بین‌المللی دریانوردی IMO بازنگری جامع STCW را از سال ۲۰۲۴ آغاز کرده است. در مرحله نخست این فرآیند، بیش از ۴۰۰ شکاف احتمالی شناسایی شده و اصلاحات در حال تدوین است؛ فرآیندی که تکمیل آن برای سال‌های ۲۰۲۹ تا ۲۰۳۰ هدف‌گذاری شده است.
نویسنده معتقد است گستردگی این بازنگری نشان می‌دهد سواد هوش مصنوعی نباید صرفاً یک آموزش اختیاری باشد یا مسئولیت آن فقط بر عهده شرکت‌های کشتیرانی و مراکز آموزشی گذاشته شود.
در یک چارچوب بازنگری‌شده، باید یک استاندارد بین‌المللی پایه تعریف شود.
همه دریانوردان به آگاهی اولیه نیاز دارند، اما افسران و افرادی که مسئول سامانه‌های مبتنی بر هوش مصنوعی هستند، باید مهارت‌های عمیق‌تری در زمینه اعتبارسنجی اطلاعات، شناخت محدودیت‌ها، تشخیص زمان نیاز به مداخله و کنار گذاشتن توصیه سیستم داشته باشند.
مهارتی که با تغییر فناوری همچنان کاربرد خواهد داشت
یکی از نکات مطرح‌شده در این گزارش این است که استانداردهای آموزشی نباید به یک محصول یا نرم‌افزار خاص وابسته شوند؛ زیرا فناوری هوش مصنوعی با سرعت زیادی تغییر می‌کند.
مهارت‌هایی مانند طرح پرسش درست، بررسی شواهد، حفاظت از اطلاعات و تشخیص زمانی که تجربه حرفه‌ای یا مشاهده مستقیم بر توصیه خودکار اولویت دارد، حتی با تغییر فناوری همچنان قابل استفاده خواهند بود.
از سوی دیگر، آموزش رسمی باید با یادگیری مستمر همراه باشد. آموزش‌های دیجیتال می‌توانند دانش دریانوردان را در فاصله بین دوره‌های آموزشی به‌روز نگه دارند و سناریوهای کوتاه و کاربردی را در اختیار آنها قرار دهند.
حتی خود هوش مصنوعی می‌تواند برای شخصی‌سازی فرآیند آموزش مورد استفاده قرار گیرد، اما هدف آموزش باید تقویت کنجکاوی، تفکر انتقادی و قضاوت حرفه‌ای باشد، نه پذیرش منفعلانه خروجی ماشین.
دریانوردان باید چه چیزهایی درباره هوش مصنوعی بیاموزند؟
در این گزارش چند مهارت مشخص برای دریانوردان پیشنهاد شده است.
نخست، آنها باید بدانند که هوش مصنوعی مولد می‌تواند واقعیت، منبع، استناد و حتی توضیحاتی ساختگی تولید کند. بنابراین اطلاعات مهم و مرتبط با ایمنی باید با استفاده از دستورالعمل‌های رسمی، رویه‌های عملیاتی، نقشه‌ها، مقررات و داده‌های معتبر بررسی شود.
دوم، دریانوردان باید بتوانند سوگیری و اطلاعات ناقص را تشخیص دهند. یک سیستم ممکن است یک وضعیت غیرمعمول محلی را نادیده بگیرد، بر اساس مجموعه داده ناقص تصمیم بگیرد یا به جای هدف واقعی، یک هدف اشتباه را بهینه کند.
در چنین شرایطی، کاربر باید بپرسد: این پاسخ بر چه شواهدی استوار است؟ چه اطلاعاتی ممکن است وجود نداشته باشد؟ و اگر پاسخ سیستم اشتباه باشد، چه پیامدی خواهد داشت؟
حفاظت از داده‌ها و امنیت سایبری
موضوع مهم دیگر، حفاظت از اطلاعات است.
خدمه باید بدانند چه اطلاعاتی را نباید در ابزارهای عمومی یا تأییدنشده هوش مصنوعی وارد کنند. اطلاعات شخصی، داده‌های تجاری، آسیب‌پذیری‌های کشتی و برخی سوابق عملیاتی حفاظت‌شده می‌توانند در صورت ورود به سامانه‌های نامطمئن، خطر نشت اطلاعات یا ایجاد آسیب‌های سایبری را افزایش دهند.
بنابراین سهولت استفاده از یک ابزار نباید به ایجاد یک مسیر جدید برای افشای اطلاعات یا افزایش ریسک سایبری منجر شود.
هوش مصنوعی نباید به مرجع عملیاتی تبدیل شود
مهم‌ترین اصل مطرح‌شده در این مقاله این است که توصیه هوش مصنوعی نباید جایگزین مسئولیت حرفه‌ای افسر کشتی شود.
یک سیستم می‌تواند به تهیه گزارش، بررسی یک مشکل یا مقایسه گزینه‌ها کمک کند، اما مسئولیت حرفه‌ای تصمیم نهایی همچنان بر عهده انسان است.
افسر باید بتواند شواهد را توضیح دهد، توصیه سیستم را به چالش بکشد و در صورت لزوم آن را کنار بگذارد.
آزمون مهارت به جای حفظ تعاریف
در این گزارش پیشنهاد شده است ارزیابی مهارت هوش مصنوعی نیز باید بر رفتار عملی متمرکز باشد، نه صرفاً حفظ تعاریف.
برای مثال، در یک سناریوی آموزشی می‌توان اطلاعات ناقص، یک منبع جعلی یا برنامه‌ای کارآمد اما مغایر با محدودیت‌های ایمنی در اختیار دریانورد قرار داد.
دریانورد باید بتواند مشکل را شناسایی کند، اطلاعات بیشتری به دست آورد، عدم قطعیت را اعلام کند و گزینه ایمن‌تر را انتخاب کند.
به اعتقاد نویسنده، چنین توانایی عملی همان شایستگی‌ای است که بازنگری STCW باید آن را به رسمیت بشناسد.
گزارش Seatrade Maritime News تأکید می‌کند که پرسش اصلی دیگر این نیست که آیا دریانوردان از هوش مصنوعی استفاده خواهند کرد یا نه؛ این فناوری هم‌اکنون وارد عملیات دریایی شده است.
پرسش اصلی این است که آیا دریانوردان برای استفاده مسئولانه و ایمن از آن آمادگی دارند یا خیر.
پیشنهاد مطرح‌شده این است که بازنگری STCW، حداقل استاندارد بین‌المللی مشخصی برای سواد هوش مصنوعی تعیین کند تا دریانوردان بتوانند ضمن بهره‌گیری از مزایای این فناوری، خطاها، محدودیت‌ها، سوگیری‌ها و خطرات امنیتی آن را نیز تشخیص دهند و در شرایط حساس، قضاوت حرفه‌ای خود را بر توصیه ماشین مقدم بدانند.
منبع: Seatrade Maritime News
کاپیتان پرادیپ چاولا، مدیرعامل MarinePALS و رئیس GlobalMET، در مقاله‌ای در Seatrade Maritime News پیشنهاد کرده است که «سواد هوش مصنوعی» در چارچوب بازنگری STCW به یک شایستگی شناخته‌شده برای دریانوردان تبدیل شود.
به گفته وی، هوش مصنوعی با سرعتی بیشتر از استانداردهای آموزشی موجود وارد عملیات دریایی شده است و بازنگری فعلی STCW فرصتی کم‌سابقه برای ایجاد یک استاندارد مشترک درباره استفاده ایمن از این فناوری در دریا فراهم می‌کند.
هوش مصنوعی هم‌اکنون وارد کشتی‌ها شده است
هوش مصنوعی در بخش‌های مختلف صنعت کشتیرانی مورد استفاده قرار گرفته است. تحلیل داده‌های تجهیزات و ماشین‌آلات، شناسایی روندهای مربوط به تعمیر و نگهداری، بهینه‌سازی مسیر بر اساس وضعیت آب‌وهوا، کاهش مصرف سوخت و جست‌وجوی مقررات پیچیده از جمله کاربردهای این فناوری هستند.
استفاده صحیح از هوش مصنوعی می‌تواند حجم کار دریانوردان را کاهش داده و اطلاعات مورد نیاز را سریع‌تر در اختیار آنها قرار دهد.
با این حال، نویسنده هشدار می‌دهد که خروجی روان و مطمئن یک سیستم هوش مصنوعی لزوماً به معنای درست بودن آن نیست. یک سیستم هوش مصنوعی ممکن است پاسخی دقیق و متقاعدکننده ارائه کند، اما اطلاعات آن نادرست باشد.
از این رو، دریانوردان باید بتوانند اطلاعات ساختگی، سوگیری، کمبود داده و خطرات مرتبط با امنیت اطلاعات را در خروجی سیستم‌های هوش مصنوعی تشخیص دهند.
دریانوردان نباید به دانشمند داده تبدیل شوند
پیشنهاد مطرح‌شده این نیست که دریانوردان به متخصصان علوم داده تبدیل شوند؛ بلکه آنها باید حداقل مهارت لازم برای استفاده ایمن از هوش مصنوعی را داشته باشند.
بر اساس این دیدگاه، دریانورد باید بداند یک سیستم هوش مصنوعی چه محدودیت‌هایی دارد، چگونه می‌توان خروجی آن را بررسی کرد و چه زمانی باید توصیه سیستم را با اطلاعات واقعی و مشاهدات مستقیم مقایسه کرد.
برای مثال، اگر یک سیستم هوش مصنوعی بر اساس اطلاعات مربوط به وضعیت آب‌وهوا، ترافیک دریایی و مصرف سوخت، مسیر خاصی را پیشنهاد کند، افسر کشتی نباید صرفاً به دلیل ارائه شدن این پیشنهاد از سوی سیستم آن را اجرا کند.
او باید بررسی کند که آیا اطلاعات مورد استفاده سیستم به‌روز است، آیا محدودیت‌های عملیاتی کشتی در نظر گرفته شده و آیا پیشنهاد ارائه‌شده با مشاهدات و شرایط واقعی روی پل فرماندهی مطابقت دارد یا خیر.
همین رویکرد باید در زمینه‌هایی مانند هشدارهای تعمیر و نگهداری پیش‌بینانه، برنامه‌ریزی محموله و جست‌وجوی مقررات نیز اعمال شود.
وارد کردن یک فرمان به هوش مصنوعی، «شایستگی» محسوب نمی‌شود
در این گزارش تأکید شده است که دانستن نحوه نوشتن یک فرمان یا کار با رابط کاربری یک سیستم هوش مصنوعی، به‌تنهایی مهارت محسوب نمی‌شود.
«سواد هوش مصنوعی» به معنای درک محدودیت‌های سیستم، بررسی خروجی آن در شرایط واقعی و پذیرش مسئولیت تصمیم نهایی است.
دریانوردان همواره آموزش دیده‌اند که اطلاعات همکاران، محاسبات و داده‌های مختلف را بررسی و با یکدیگر مقایسه کنند. به اعتقاد نویسنده، همین رویکرد انتقادی باید در مواجهه با ماشین نیز وجود داشته باشد؛ به‌ویژه زمانی که یک سیستم، پاسخی سریع، دقیق و بسیار مطمئن به نظر می‌رساند.
فرصت مهم بازنگری STCW
سازمان بین‌المللی دریانوردی IMO بازنگری جامع STCW را از سال ۲۰۲۴ آغاز کرده است. در مرحله نخست این فرآیند، بیش از ۴۰۰ شکاف احتمالی شناسایی شده و اصلاحات در حال تدوین است؛ فرآیندی که تکمیل آن برای سال‌های ۲۰۲۹ تا ۲۰۳۰ هدف‌گذاری شده است.
نویسنده معتقد است گستردگی این بازنگری نشان می‌دهد سواد هوش مصنوعی نباید صرفاً یک آموزش اختیاری باشد یا مسئولیت آن فقط بر عهده شرکت‌های کشتیرانی و مراکز آموزشی گذاشته شود.
در یک چارچوب بازنگری‌شده، باید یک استاندارد بین‌المللی پایه تعریف شود.
همه دریانوردان به آگاهی اولیه نیاز دارند، اما افسران و افرادی که مسئول سامانه‌های مبتنی بر هوش مصنوعی هستند، باید مهارت‌های عمیق‌تری در زمینه اعتبارسنجی اطلاعات، شناخت محدودیت‌ها، تشخیص زمان نیاز به مداخله و کنار گذاشتن توصیه سیستم داشته باشند.
مهارتی که با تغییر فناوری همچنان کاربرد خواهد داشت
یکی از نکات مطرح‌شده در این گزارش این است که استانداردهای آموزشی نباید به یک محصول یا نرم‌افزار خاص وابسته شوند؛ زیرا فناوری هوش مصنوعی با سرعت زیادی تغییر می‌کند.
مهارت‌هایی مانند طرح پرسش درست، بررسی شواهد، حفاظت از اطلاعات و تشخیص زمانی که تجربه حرفه‌ای یا مشاهده مستقیم بر توصیه خودکار اولویت دارد، حتی با تغییر فناوری همچنان قابل استفاده خواهند بود.
از سوی دیگر، آموزش رسمی باید با یادگیری مستمر همراه باشد. آموزش‌های دیجیتال می‌توانند دانش دریانوردان را در فاصله بین دوره‌های آموزشی به‌روز نگه دارند و سناریوهای کوتاه و کاربردی را در اختیار آنها قرار دهند.
حتی خود هوش مصنوعی می‌تواند برای شخصی‌سازی فرآیند آموزش مورد استفاده قرار گیرد، اما هدف آموزش باید تقویت کنجکاوی، تفکر انتقادی و قضاوت حرفه‌ای باشد، نه پذیرش منفعلانه خروجی ماشین.
دریانوردان باید چه چیزهایی درباره هوش مصنوعی بیاموزند؟
در این گزارش چند مهارت مشخص برای دریانوردان پیشنهاد شده است.
نخست، آنها باید بدانند که هوش مصنوعی مولد می‌تواند واقعیت، منبع، استناد و حتی توضیحاتی ساختگی تولید کند. بنابراین اطلاعات مهم و مرتبط با ایمنی باید با استفاده از دستورالعمل‌های رسمی، رویه‌های عملیاتی، نقشه‌ها، مقررات و داده‌های معتبر بررسی شود.
دوم، دریانوردان باید بتوانند سوگیری و اطلاعات ناقص را تشخیص دهند. یک سیستم ممکن است یک وضعیت غیرمعمول محلی را نادیده بگیرد، بر اساس مجموعه داده ناقص تصمیم بگیرد یا به جای هدف واقعی، یک هدف اشتباه را بهینه کند.
در چنین شرایطی، کاربر باید بپرسد: این پاسخ بر چه شواهدی استوار است؟ چه اطلاعاتی ممکن است وجود نداشته باشد؟ و اگر پاسخ سیستم اشتباه باشد، چه پیامدی خواهد داشت؟
حفاظت از داده‌ها و امنیت سایبری
موضوع مهم دیگر، حفاظت از اطلاعات است.
خدمه باید بدانند چه اطلاعاتی را نباید در ابزارهای عمومی یا تأییدنشده هوش مصنوعی وارد کنند. اطلاعات شخصی، داده‌های تجاری، آسیب‌پذیری‌های کشتی و برخی سوابق عملیاتی حفاظت‌شده می‌توانند در صورت ورود به سامانه‌های نامطمئن، خطر نشت اطلاعات یا ایجاد آسیب‌های سایبری را افزایش دهند.
بنابراین سهولت استفاده از یک ابزار نباید به ایجاد یک مسیر جدید برای افشای اطلاعات یا افزایش ریسک سایبری منجر شود.
هوش مصنوعی نباید به مرجع عملیاتی تبدیل شود
مهم‌ترین اصل مطرح‌شده در این مقاله این است که توصیه هوش مصنوعی نباید جایگزین مسئولیت حرفه‌ای افسر کشتی شود.
یک سیستم می‌تواند به تهیه گزارش، بررسی یک مشکل یا مقایسه گزینه‌ها کمک کند، اما مسئولیت حرفه‌ای تصمیم نهایی همچنان بر عهده انسان است.
افسر باید بتواند شواهد را توضیح دهد، توصیه سیستم را به چالش بکشد و در صورت لزوم آن را کنار بگذارد.
آزمون مهارت به جای حفظ تعاریف
در این گزارش پیشنهاد شده است ارزیابی مهارت هوش مصنوعی نیز باید بر رفتار عملی متمرکز باشد، نه صرفاً حفظ تعاریف.
برای مثال، در یک سناریوی آموزشی می‌توان اطلاعات ناقص، یک منبع جعلی یا برنامه‌ای کارآمد اما مغایر با محدودیت‌های ایمنی در اختیار دریانورد قرار داد.
دریانورد باید بتواند مشکل را شناسایی کند، اطلاعات بیشتری به دست آورد، عدم قطعیت را اعلام کند و گزینه ایمن‌تر را انتخاب کند.
به اعتقاد نویسنده، چنین توانایی عملی همان شایستگی‌ای است که بازنگری STCW باید آن را به رسمیت بشناسد.
گزارش Seatrade Maritime News تأکید می‌کند که پرسش اصلی دیگر این نیست که آیا دریانوردان از هوش مصنوعی استفاده خواهند کرد یا نه؛ این فناوری هم‌اکنون وارد عملیات دریایی شده است.
پرسش اصلی این است که آیا دریانوردان برای استفاده مسئولانه و ایمن از آن آمادگی دارند یا خیر.
پیشنهاد مطرح‌شده این است که بازنگری STCW، حداقل استاندارد بین‌المللی مشخصی برای سواد هوش مصنوعی تعیین کند تا دریانوردان بتوانند ضمن بهره‌گیری از مزایای این فناوری، خطاها، محدودیت‌ها، سوگیری‌ها و خطرات امنیتی آن را نیز تشخیص دهند و در شرایط حساس، قضاوت حرفه‌ای خود را بر توصیه ماشین مقدم بدانند.
منبع: Seatrade Maritime News
نویسنده: کاپیتان Pradeep Chawla، مدیرعامل MarinePALS و رئیس GlobalMET
