ofcom.استفاده از هوش مصنوعی در مدیریت محتوا: فرصتی برای رشد استارتاپ‌ها

Ofcom در حال بررسی استفاده از اتوماسیون برای اجرای الزامات حفاظت دیجیتال از قانون ایمنی آنلاین است، که ممکن است به رونق شرکت‌های مدیریت محتوای هوش مصنوعی کمک کند.

این نهاد نظارتی رسانه‌ای بریتانیا مسئولیت اجرای قانون اخیری را دارد که ایمنی آنلاین را، به ویژه برای کودکان، تأمین می‌کند.

Ofcom در روز جمعه اعلام کرد که “نقشه‌هایی برای توسعه پیشنهادات اضافی در مورد استفاده از هوش مصنوعی برای شناسایی محتوای غیرقانونی و آسیب‌ها به کودکان” را به اطلاع می‌رساند.

نظارت‌کننده ارتباطات گفته است که در “بعداً امسال” یک مشاوره راه‌اندازی خواهد کرد که در آن به بررسی نحوه استفاده از ابزارهای شناسایی خودکار برای جلوگیری از دیده شدن محتوای مضر پرداخته خواهد شد.

طبق قانون ایمنی آنلاین که در اکتبر گذشته به قانون تبدیل شد، پلتفرم‌هایی که محتواها را میزبانی می‌کنند موظفند تا اقدامات سختی را برای مسدود کردن موادی مانند تنفر و محتوای تشویقی به خودکشی یا خودآسیبی انجام دهند.
استفاده از هوش مصنوعی به عنوان یک ابزار، فرصتی برای بازار رو به رشد شرکت‌های نوپا در حوزه مدیریت محتوا به وجود می‌آورد.

یکی از این شرکت‌ها، Unitary AI است، یک شرکت نوپا مستقر در لندن که فناوری یادگیری ماشین را برای شناسایی اگر عکس یا ویدئویی حاوی محتوای مضر باشد، توسعه می‌دهد که به صورت مشابه با نظارت انسانی عمل می‌کند.

این شرکت سال گذشته به میزان قابل توجهی سرمایه جذب کرده است، شامل یک دوره با ارزش £6.7 میلیون در مارس 2023 و یک دوره با ارزش £12 میلیون در اکتبر.

در زمان آخرین دوره تأمین مالی، شرکت گفته بود که هر روز شش میلیون ویدئو را به زبان‌های مختلف تجزیه و تحلیل می‌کند.

“Sasha Haco”، هم‌موسس و مدیرعامل Unitary، به UKTN گفت: “عالی است که مشاهده می‌شود که انگلیس به عنوان یک رهبر در تضمین امنیت آنلاین ادامه دارد، و این مشاوره یک گام دیگر به جلو را نشان می‌دهد.” “پیشرفت سریع در حوزه هوش مصنوعی، امکانات جدیدی برای مقابله با خسارات آنلاین را باز می‌کند، و ما معتقدیم که در نهایت هوش مصنوعی اساس تمامی راه‌حل‌های آینده را تشکیل خواهد داد و کاملاً روش‌های اعتماد و ایمنی برای پلتفرم‌های آنلاین را تغییر خواهد داد.”
رقیبی به نام Arwen AI، مستقر در سوری، به طور مشابه از فناوری اتوماسیون در رسانه‌های اجتماعی برای جلوگیری از سخنان نفرت‌آمیز استفاده می‌کند.

Arwen ده‌ها الگوریتم توسعه داده است که برای شناسایی انواع مختلفی از محتوای مخرب مانند اسپم، نفاق، توهین و سخنان نفرت‌آمیز طراحی شده‌اند.

اگرچه اتوماسیون یک رویکرد قابل مقیاس بیشتر در مدیریت محتوا است، اما سیستم‌ها ممکن است به طور نادرست محتوا را به عنوان نقض سیاست‌ها شناسایی کنند، که به آن “مثبت‌های غلط” معروف است.

منبع:لینک