به نقل از «آنا»

سازمان بهداشت جهانی: برای استفاده از هوش مصنوعی ۶ اصل را رعایت کنید

تاریخ انتشار: ۲۶ اردیبهشت ۱۴۰۲ | کد خبر: ۳۷۷۶۴۲۴۳

به گزارش گروه دانش و فناوری خبرگزاری علم و فناوری آنا به نقل از سازمان بهداشت جهانی (WHO)، این سازمان خواستار احتیاط در استفاده از ابزار‌های مدل زبان بزرگ (LLM) تولید شده توسط هوش مصنوعی (AI) برای محافظت و ارتقای رفاه انسان، ایمنی و استقلال انسان و حفظ سلامت عمومی است.

ابزار‌های مدل زبان بزرگ‌ها شامل برخی از پلتفرم‌های به سرعت در حال گسترش مانند ChatGPT، Bard، Bert و بسیاری دیگر هستند که درک، پردازش و تولید ارتباطات انسانی را تقلید می‌کنند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

انتشار عمومی و استفاده آزمایشی رو به رشد آن‌ها برای مقاصد مرتبط با سلامت، هیجان قابل توجهی را در مورد پتانسیل حمایت از نیاز‌های بهداشتی مردم ایجاد می‌کند.

ضروری است که هنگام استفاده از ابزار‌های مدل زبان بزرگ که به نام چت ربات‌های هوش مصنوعی شناخته می‌شوند، برای بهبود دسترسی به اطلاعات بهداشتی، به عنوان یک ابزار پشتیبانی تصمیم، یا حتی برای افزایش ظرفیت تشخیصی در محیط‌های کم منابع برای محافظت از سلامت مردم و کاهش نابرابری، خطرات به دقت بررسی شوند.

در حالی که سازمان بهداشت جهانی مشتاق استفاده مناسب از فناوری‌ها، از جمله چت با هوش مصنوعی، برای حمایت از متخصصان مراقبت‌های بهداشتی، بیماران، محققان و دانشمندان است، این نگرانی وجود دارد که احتیاط‌هایی که معمولاً برای هر فناوری جدید اعمال می‌شود، به طور مداوم در مورد ابزار‌های مدل زبان بزرگ اعمال نمی‌شود. این شامل گسترش ارزش‌های کلیدی شفافیت، اخلاق مداری، مشارکت عمومی، نظارت متخصصان و ارزیابی دقیق است.

پذیرش سریع سیستم‌های آزمایش‌نشده می‌تواند منجر به اشتباهات کارکنان مراقبت‌های بهداشتی، آسیب رساندن به بیماران، کاهش اعتماد به هوش مصنوعی و در نتیجه تضعیف (یا تأخیر) مزایای بالقوه بلندمدت و استفاده از چنین فناوری‌هایی در سراسر جهان شود.

نگرانی‌هایی که مستلزم نظارت دقیق مورد نیاز برای استفاده از فناوری‌ها به روش‌های ایمن، مؤثر و اخلاقی هستند عبارتند از:

داده‌های مورد استفاده برای آموزش هوش مصنوعی ممکن است مغرضانه باشد و اطلاعات گمراه‌کننده یا نادرستی ایجاد کند که می‌تواند خطراتی برای سلامتی، برابری و فراگیر بودن ایجاد کند.

ابزار‌های مدل زبان بزرگ‌ها پاسخ‌هایی را تولید می‌کنند که می‌توانند برای کاربر نهایی معتبر و قابل قبول به نظر برسند. با این حال، این پاسخ‌ها ممکن است کاملاً نادرست باشند یا حاوی خطا‌های جدی باشند، به ویژه برای پاسخ‌های مرتبط با سلامت.

ممکن است ابزار‌های مدل زبان بزرگ در مورد داده‌هایی که قبلاً برای چنین استفاده‌هایی رضایت ارائه نشده است آموزش ببینند و ممکن است از داده‌های حساس (از جمله داده‌های سلامت) که کاربر برای ایجاد پاسخ در اختیار یک برنامه کاربردی قرار می‌دهد، محافظت نکنند.

از چت بات‌ها می‌توان برای تولید و انتشار اطلاعات نادرست بسیار قانع کننده در قالب محتوای متنی، صوتی یا ویدیویی استفاده نادرست کرد که تشخیص آن برای عموم از محتوای سلامت قابل اعتماد دشوار است.

در حالی که بهداشت جهانی متعهد به استفاده از فناوری‌های جدید، از جمله هوش مصنوعی و سلامت دیجیتال برای بهبود سلامت انسان است، سازمان بهداشت جهانی توصیه می‌کند که سیاست‌گذاران از ایمنی و محافظت از بیمار اطمینان حاصل کنند، در حالی که شرکت‌های فناوری برای تجاری‌سازی ابزار‌های مدل زبان بزرگ (چت بات‌های هوش مصنوعی) تلاش می‌کنند.

سازمان بهداشت جهانی پیشنهاد می‌کند که به این نگرانی‌ها رسیدگی شود، و شواهد واضحی از منافع قبل از استفاده گسترده از آن‌ها در مراقبت‌های بهداشتی و پزشکی معمول، چه توسط افراد، چه ارائه‌دهندگان مراقبت‌ها یا مدیران سیستم سلامت و سیاست‌گذاران، اندازه‌گیری شود.

سازمان بهداشت جهانی بر اهمیت به کارگیری اصول اخلاقی و حکمرانی مناسب، همان‌طور که در راهنمای سازمان بهداشت جهانی، در مورد اخلاق و حکمرانی هوش مصنوعی برای سلامت، در هنگام طراحی، توسعه و استقرار هوش مصنوعی برای سلامت برشمرده شده است، تاکید می‌کند.

۶ اصل اصلی شناسایی شده توسط سازمان بهداشت جهانی عبارتند از:

۱- حفاظت از خودمختاری

۲- ارتقاء رفاه انسان، ایمنی انسان، و منافع عمومی

۳- شفافیت، توضیح پذیری و قابل فهم بودن را تضمین کند

۴- مسئولیت پذیری و مسئولیت شناسی را تقویت کند

۵- از فراگیری و برابری آن اطمینان حاصل شود

۶- هوش مصنوعی پاسخگو و پایدار را ارتقا دهید.

انتهای پیام/

منبع: آنا

کلیدواژه: سازمان بهداشت جهانی هشدار هوش مصنوعی چت GPT سازمان بهداشت جهانی هوش مصنوعی فناوری ها مراقبت ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۷۶۴۲۴۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

تصویب سند هوش مصنوعی در کشور به کجا رسید؟

به گزارش «تابناک» به نقل از ایسنا، هوش مصنوعی به عنوان یکی از پرشتاب‌ترین فناوری‌های در حال تکوین، پتانسیل ایجاد تحول‌های انقلابی زیادی در جنبه‌های مختلف زندگی بشر را دارد و یکی از فناوری‌های کلیدی است که در حال تکوین  بوده و می‌تواند به پردازش‌های صنعتی و حل مسائل مختلف جامعه کمک فراوانی کند.    

با توجه به فراگیر شدن این فناوری کارشناسان بر این باورند تغییرات هوش مصنوعی در پنج سال آینده احتمالا سرعت می‌یابد و بیشترین تاثیر آن بر آموزش خواهد بود. ماهیت کلی هوش مصنوعی و کاربردهای بی‌شمار آن، باعث ایجاد عدم قطعیت‌های متعدد برای پیش‌بینی آینده آن می‌شود اما این موضوع به توسعه این فناوری مربوط نمی‌شود، بلکه به توسعه محیط اقتصادی، سیاسی و اجتماعی آن نیز مربوط می‌شود.

همزمان با به کارگیری هوش مصنوعی در حوزه مختلف توسط سایر کشورها، ایران هم اقدامات بسیاری طی سال ها در این زمینه انجام داده است که می‌توان به تدوین سند هوش مصنوعی اشاره کرد.

برای پیشبرد این هدف مهم، قرار شد شورای عالی فضای مجازی به عنوان مرجع تصمیم‌گیری بر روی تدوین سند هوش مصنوعی کار کند و بر اساس یکی از احکام مصوب در کمسیون تلفیق برنامه هفتم توسعه، مرکز ملی فضای مجازی و وزارت ارتباطات مکلف شدند که با همکاری سایر دستگاه‌ها ظرف شش ماه از زمان لازم‌الاجرا شدن قانون، برنامۀ ملّی توسعۀ هوش‌ مصنوعی را تهیه و به تصویب شورای عالی فضای مجازی برسانند.    

البته در کنار این اقدام دو سالی است که در وزارت ارتباطات، مرکز هوش مصنوعی تأسیس شده و برای توسعه کاربردها به دستگاه‌ها پیشنهاد می‌شود. در نهایت پس از اظهار نظرهای گوناگون پیش نویس سند ملی هوش مصنوعی اوایل پاییز سال گذشته از تدوین سیاست در موضوع هوش مصنوعی در شورای عالی انقلاب فرهنگی خبر داد.

در این راستا چندی پیش حجت‌الاسلام و المسلمین خسروپناه -دبیر شورای عالی انقلاب فرهنگی- جزئیات جدیدی در این زمینه اعلام کرد.   

براساس اعلام سایت شورای عالی انقلاب فرهنگی، وی همچنین گفته است که تدوین سند هوش مصنوعی تمام شده در آینده نزدیک مصوب می‌کنیم و موضوع کوانتوم یکی از اولویت‌های ماست چراکه یک پارادایم علمی جدید است؛ دانشگاه آزاد درباره کامپیوتر کوانتومی و دانشگاه شهید بهشتی در زمینه سلول اتمی کوانتومی کار می‌کنند. در یکسال بیش از ۲۰۰ دانش‌بنیان را از نزدیک دیدیم و در جریان مشکلاتشان قرار گرفتین و برایشان میز تشکیل دادیم.

سال گذشته پیش‌نویس سند ملی هوش مصنوعی با حضور نمایندگان سازمان‌ها و دستگاه‌های مختلف دولتی و بخش خصوصی در دبیرخانه شورای‌عالی انقلاب ‌فرهنگی ارائه و تحلیل شد.

همچنین به تازگی روح الله دهقانی فیروز آبادی در زمینه رسیدن کشور به ۱۰ کشور برتر دنیا در حوزه هوش مصنوعی، توضیح داده است سال گذشته گفت‌وگوهایی زیادی با رئیس‌جمهور و همینطور دستگاه‌های مختلف از جمله سازمان برنامه و بودجه برای الزام ایجاد یک مرکز ملی توسعه هوش مصنوعی و در کنارش یک شورای ملی راهبری انجام شد و در این راستا برنامه‌ها و مدل‌های کشورهای مختلف در حوزه هوش مصنوعی مورد مطالعه قرار گرفت.  

البته معاون علمی، فناوری و اقتصاد دانش‌بنیان رئیس‌جمهور در صحبت هایش به ایجاد اپراتور هوش مصنوعی هم اشاره کرده و گفته برنامه‌ریزی شده مرکز ملی هوش مصنوعی، اپراتور هوش مصنوعی را ایجاد کند که این اپراتور ٣ خدمت اصلی مزرعه پردازشی بزرگ، مرکز داده بزرگ و کتابخانه‌های بزرگ زبانی و تصویری را ارائه می‌دهد.

بر این اساس در واقع همانطور که اپراتورهای تلفن همراه خدمات اینترنتی را ارائه می‌دهند، اپراتور ملی هوش مصنوعی نیز خدمات پردازشی بزرگ و خدمات کتابخانه‌های محاسباتی را در اختیار دانشگاه‌ها، شرکت‌های دانش‌بنیان و سازمان‌ها و نهادها قرار می‌دهد.