Facebook AI برای بیان نفرت را بهبود می بخشد. چقدر نامشخص است

این شرکت می گوید الگوریتم پرچم تقریبا 90 درصد از گفتار نفرت از آن حذف شده در سه ماهه اول. اما آن را نمی کند گزارش چقدر تضعیف از طریق.

Facebook الگوریتم برای تشخیص گفتار نفرت در حال کار سخت تر از همیشه. اگر فقط ما می دانستیم که چقدر خوب آنها در شغل خود.

روز سه شنبه شبکه های اجتماعی گزارش دادند که یک پرش بزرگ در تعداد آیتم های حذف شده برای نقض قوانین آن در بیان نفرت. این افزایش ناشی از بهتر تشخیص خودکار گفتار نفرت شنود و توسعه یافته توسط Facebook را هوش مصنوعی کارشناسان.

دقت این سیستم باقی می ماند یک رمز و راز است. Facebook ندارد انتشار و می گوید که نمی تواند برآورد حجم کل سخنرانی نفرت ارسال شده توسط خود را 1.7 میلیارد دلار روزانه کاربران فعال.

Facebook منتشر کرده است در گزارش سه ماهه چگونه از آن است که اجرای آن با استانداردهای قابل قبول برای گفتمان پس ممکن است 2018. آخرین می گوید این شرکت حذف 9.6 میلیون قطعه از محتوای آن تلقی سخنرانی نفرت در سه ماهه اول سال 2020 تا از 5.7 میلیون دلار در سه ماهه چهارم سال 2019. کل یک رکورد با شکوه 7 میلیون نفر حذف شده در سه ماهه سوم سال 2019.

از 9.6 میلیون پست های حذف شده در سه ماهه اول, Facebook گفت: خود نرم افزار شناسایی 88.8 درصد قبل از کاربران گزارش آنها. که نشان می دهد الگوریتم های پرچم 8.5 میلیون پست برای بیان نفرت در سه ماهه تا 86 درصد از سه ماهه قبلی است و در مجموع از 4.6 میلیون نفر است.

در تماس با خبرنگاران Facebook افسر ارشد فناوری Mike Schroepfer تبلیغ پیشرفت در شرکت ماشین یادگیری فن آوری است که تجزیه زبان. “ما زبان مدل بدست بزرگتر و دقیق تر و ظریف,” او گفت:. “آنها قادر به گرفتن چیزهایی که کمتر آشکار است.”

Schroepfer انرا مشخص کنید که چگونه دقیق این سیستم در حال حاضر گفت: تنها که Facebook تست سیستم های گسترده قبل از آنها مستقر هستند, در بخش, به طوری که آنها را به اشتباه مجازات گناه محتوا.

وی با ذکر آمار و ارقام در گزارش جدید نشان می دهد که اگر چه کاربران تا به حال به دادگاه تجدید نظر تصمیم گیری را به پایین محتوا برای بیان نفرت بیشتر در اخیر چهارم—1.3 میلیون بار کمتر پست شد و پس از آن دوباره بازسازی شد. Facebook نیز گفت: آن را تا به حال تغییر آن روند تجدید نظر در اواخر ماه مارس کاهش تعداد درخواست های وارد شده به دلیل Covid-19 محدودیت بسته برخی از اعتدال دفاتر.

Facebook ارقام نشان نمی دهد چقدر نفرت گفتار ورقه از طریق آن الگوریتمی net. این شرکت در گزارش سه ماهه برآورد بروز برخی از انواع محتوا ممنوع تحت Facebook قوانین, اما نه گفتار نفرت. روز سه شنبه انتشار نشان می دهد خشونت نوشته های کاهش از تابستان گذشته. نفرت بخش سخنرانی می گوید Facebook است “هنوز هم در حال توسعه جهانی متریک.”

اعداد گم شده کفن اندازه واقعی از شبکه های اجتماعی را بیان نفرت مشکل است. Caitlin Carlson استادیار در دانشگاه سیاتل می گوید: 9.6 میلیون پست های حذف شده برای بیان نفرت نگاه مشکوکی کوچک در مقایسه با Facebook را شبکه بزرگ از کاربران و کاربران مشاهدات نگران کننده محتوا. “این سخت است برای پیدا کردن” کارلسون می گوید.

کارلسون نتایج منتشر شده در ماه ژانویه از یک آزمایش که در آن او و همکار به جمع آوری بیش از 300 Facebook پست که به نظر می رسد به نقض پلت فرم را بیان نفرت قوانین و گزارش ها را از طریق خدمات ابزار. تنها حدود نیمی از پست ها قرار بود که در نهایت حذف شد; شرکت مدیران به نظر می رسد جدی تر در اجرای موارد نژادی و قومی تهمت از زن ستیزی.

Facebook می گوید محتوای پرچم آن توسط الگوریتم بررسی شده است همان راه به عنوان پست های گزارش شده توسط کاربران. که فرایند تعیین می کند که آیا برای حذف محتوا و یا اضافه کردن یک هشدار می تواند شامل انسان داوران و یا نرم افزار به تنهایی. جمعه, Facebook توافق به رقم 52 میلیون دلار حل و فصل با مدیران سایت که می گویند بررسی محتوا برای این شرکت ناشی از آنها را به توسعه PTSD. خبر از حل و فصل شد به گزارش the Verge.

Facebook را اعتدال گزارش بخشی از یک اخیر شفافیت درایو است که همچنین شامل یک پنل جدید خارج از کارشناسان با قدرت برای سرنگونی این شرکت اعتدال تصمیم گیری. این شرکت ایستاده بود تا این پروژه پس از رسوایی مانند روسیه-هماهنگ انتخابات اطلاعات غلط که موجب قانونگذاران در آمریکا و جاهای دیگر به نظر دولت جدید محدودیت های اجتماعی و سیستم عامل.

کارلسون می گوید Facebook را آشکار به نظر می رسد در نظر گرفته شده و نشان می دهد که شرکت می تواند خود را تنظیم, اما گزارش ها ناکافی است. “قادر به گفتگو در مورد این که ما نیاز به شماره” او می گوید. پرسید که چرا آن را نمی کند گزارش شيوع تبعیض یک سخنگوی شرکت با اشاره به توجه داشته باشید در گزارش خود گفت: آن اندازه گیری است که “به آرامی در حال گسترش برای پوشش بیشتر زبان ها و مناطق به حساب برای زمینه های فرهنگی و تفاوت های ظریف برای فرد زبان.”

تعریف و تشخیص گفتار نفرت یکی از بزرگترین سیاسی و چالش های فنی برای Facebook و سیستم عامل های دیگر. حتی برای انسان تماس های سخت تر را نسبت به جنسی یا تروریستی محتوا و می آمد پایین به سوالات فرهنگی حساسیت. خودکار که روی حیله و تزویر است چرا که هوش مصنوعی یک راه طولانی از انسان و سطح درک از متن کار بر روی الگوریتم های که درک ظریف معنای منتقل متن و تصاویر با هم است فقط آغاز است.

Schroepfer گفت: Facebook به روز رسانی آن نفرت سخنرانی الگوریتم های تشخیص با کمک از تحقیقات اخیر در استفاده از یادگیری ماشین نرم افزار به زبان. بسیاری از شرکت های فن آوری ها دوباره کار خود را در سیستم های که در فرایند زبان مانند موتور جستجوی گوگل به عنوان سمبل پیشرفت های قابل توجهی در الگوریتم’ توانایی حل مشکلات زبان مانند پاسخ دادن به سوالات و یا روشن مبهم تعبیر.

او همچنین روشن ساخته بهبود آن را ندارد فن آوری در هر نقطه نزدیک به کامل است. “من ساده و بی تکلف” Schroepfer گفت. “من فکر می کنم انسان در حال رفتن به در حلقه برای آینده نامحدود.”

برای افزایش چقدر هوش مصنوعی می تواند کمک به کسانی که انسان گیر در حلقه Facebook گفت: آن ایجاد یک مجموعه ای از بیش از 10 ، 000 سخنرانی نفرت الگوهای رفتاری است که ترکیب تصاویر و متن به خار تحقیقات جدید است. این شرکت خواهد شد جایزه $100,000 در جوایز به گروه های تحقیقاتی که ایجاد نرم افزار منبع باز بهترین قادر به نقطه نفرت الگوهای رفتاری که آنها با مخلوط خوش خیم نمونه.


بزرگ تر سیمی داستان
  • چگونه فضا تلاش می کند تا شما را بکشند و شما را زشت
  • 22 حیوان عبور از راهنمایی به بالا خود را در جزیره بازی
  • عجیب و غریب حزبی ریاضی رای-با-ایمیل
  • هواپیما هنوز پرواز اما Covid-19 بازیابی دشوار خواهد بود
  • مشترک زبان بصری از سال 1918 و در سال 2020 بیماری های همه گیر
  • 👁 AI آشکار بالقوه Covid-19 درمان است. به علاوه: دریافت آخرین اخبار AI
  • ✨ خود را بهینه سازی صفحه اصلی زندگی ما با دنده تیم بهترین میدارد از ربات خلاء به قیمت مناسب تشک هوشمند بلندگو

tinyurlis.gdv.gdv.htclck.ruulvis.netshrtco.detny.im