همکاری NTT Data و TÜV SÜD برای ارتقای کیفیت در کاربردهای هوش مصنوعی
NTT Data در آینده از چارچوب کیفیت هوش مصنوعی TÜV SÜD استفاده خواهد کرد تا اعتماد بیشتری در کاربردهای هوش مصنوعی ایجاد کرده و کیفیت آن‌ها را تضمین کند. این توافق‌نامه همکاری شامل استفاده از چارچوب کیفیت هوش مصنوعی TÜV SÜD و ابزارهای تحلیلی مرتبط است تا مشتریان NTT Data بتوانند برنامه‌های هوش مصنوعی را با تمرکز بر بازار و بالاترین استانداردها توسعه دهند.
چارچوب کیفیت هوش مصنوعی TÜV SÜD به سازمان‌ها راهنمایی و ابزارهایی ارائه می‌دهد تا خطرات احتمالی برنامه‌های هوش مصنوعی خود را شناسایی کرده و آزمون‌هایی برای ارزیابی عدالت، قابلیت توضیح و پایداری برنامه انجام دهند. همچنین ارائه‌دهنده خدمات IT NTT Data از مشتریان خود در پیاده‌سازی اقدامات جهت ارتقاء و تضمین کیفیت هوش مصنوعی و فرآیندهای عملیات یادگیری ماشین (MLOps) حمایت می‌کند.
این اقدام باید اطمینان حاصل کند که در طول زمان، افت عملکردی رخ ندهد. "فشار برای تحول افزایش یافته و شرکت‌های بیشتری سیستم‌های هوش مصنوعی را برای خودکارسازی فرآیندهای خود پیاده می‌کنند. چارچوب کیفیت هوش مصنوعی TÜV SÜD به مشتریان ما کمک می‌کند تا برای مقررات قانونی آینده اتحادیه اروپا آماده باشند. بنابراین این موارد به جای اینکه به محدودیت تبدیل شوند، اعتماد و امنیت را برای فرآیندهای عملیاتی خودکار ایجاد می‌کنند"، توضیح می‌دهد استفان هانسن، مدیرعامل و رئیس هیئت مدیره NTT Data DACH.
چارچوب کیفیت هوش مصنوعی برای فرآیندهای توسعه مطابق با بازار
چارچوب کیفیت هوش مصنوعی که توسط TÜV SÜD توسعه یافته است، سازمان‌ها را جهت توسعه یا استفاده از برنامه‌های هوش مصنوعی با کیفیت و بازار محور پشتیبانی می‌کند. این چارچوب بر اساس مقررات و استانداردهای فعلی جهانی است و اصول اساسی برنامه‌های هوش مصنوعی با کیفیت را شامل می‌شود، مانند مدیریت داده‌ها، پایداری هوش مصنوعی، چرخه حیات و تضمین کیفیت برنامه‌های هوش مصنوعی، ایمنی و امنیت و همچنین کنترل و ارزیابی. با استفاده از ابزارهای تحلیلی، می‌توان آزمون‌هایی برای ارزیابی عدالت، قابلیت توضیح یا پایداری برنامه انجام داد. "با رویکرد سیستماتیک ما بر اساس چارچوب کیفیت هوش مصنوعی، سازمان‌ها می‌توانند به صورت مستقل یا با کمک دیگران، به صورت کارآمد و هدفمند برنامه‌های هوش مصنوعی با کیفیت بالا ایجاد کنند. همزمان، این چارچوب به سازمان‌ها کمک می‌کند تا رویکردهای تنظیمی موجود را زیر نظر داشته و بنابراین برنامه‌هایی مطابق با بازار ایجاد کنند"، تاکید می‌کند دکتر آندریاس هاوزر، مدیرعامل خدمات دیجیتال در TÜV SÜD.
بازار رو به رشد برای برنامه‌های هوش مصنوعی
مطالعه IW "عامل دیجیتال – چگونه آلمان از فناوری‌های هوشمند بهره می‌برد" پیش‌بینی می‌کند که هوش مصنوعی مولد در آینده می‌تواند 330 میلیارد یورو به ارزش افزوده ناخالص در آلمان کمک کند. علاوه بر این، حدود 17 درصد از شرکت‌های آلمانی در حال حاضر از هوش مصنوعی استفاده می‌کنند، به عنوان مثال در زمینه‌های متن، تحلیل داده یا بازاریابی.
همزمان، مصرف‌کنندگان خواستار چارچوب قانونی برای برنامه‌های هوش مصنوعی امن هستند. نتایج یک نظرسنجی نماینده از اتحادیه TÜV در میان مردم آلمان درباره مقررات قانونی در زمینه هوش مصنوعی واضح است: 91 درصد از شرکت‌کنندگان خواهان ایجاد یک چارچوب قانونی برای استفاده امن از هوش مصنوعی توسط قانون‌گذار هستند. 83 درصد می‌گویند که تنظیم و استفاده از هوش مصنوعی باید به ارزش‌های اروپایی متکی باشد.
تضمین کیفیت هوش مصنوعی و مسائل اخلاقی
اما اغلب خطرات هوش مصنوعی دست کم گرفته می‌شود. معمولاً با انحراف سیستماتیک (Bias) الگوریتم‌ها مواجه می‌شویم که منجر به تصمیمات ناعادلانه علیه گروه‌های خاصی از افراد به دلیل سن، جنسیت یا پیشینه می‌شود و به آن‌ها آسیب می‌زند. مشکلی که نه تنها به از دست رفتن اعتماد مشتریان می‌انجامد بلکه با ارزش‌ها و قوانین اتحادیه اروپا نیز در تضاد است و در آینده می‌تواند با جریمه‌های سنگین همراه باشد. برای کاهش اثرات منفی استفاده از هوش مصنوعی، قانون هوش مصنوعی اتحادیه اروپا که انتظار می‌رود امسال نهایی شود، قوانین و چارچوب‌هایی برای استفاده و توسعه سیستم‌های هوش مصنوعی در نظر گرفته است. ()