Бодигард френско приложение, което предпазва от омразни коментари в YouTube и Twitter -

Създаден от млад 22-годишен френски разработчик, Bodyguard защитава своите потребители от омразни коментари в YouTube и Twitter. Приложението все повече говори за него и изглежда е намерило своята аудитория, особено сред ютубърите, които сега го използват повече от хиляда ежедневно. След като 97% от потребителите са доволни и над 17 000 коментара са блокирани, Bodyguard изглежда е ефективна опора срещу омразата в интернет. За да научим повече за услугата и как тя работи, зададохме няколко въпроса на създателя й: Чарлз Коен.

Как възникна идеята за създаване на това приложение? ?

Роден съм в поколението на YouTube, сайт, който посещавам от 10-годишна възраст (когато започнах разработката). YouTube е сайт, където кибер тормозът е налице от самото му създаване и все повече поражда хаос (затваряне на канали и т.н.). Един ден попаднах на статия за самоубийството на младо момиче в резултат на много агресивен кибертормоз и направих някои изследвания, само за да установя, че има много подобни случаи. Тогава започнах да търся решенията, които присъстваха за ефективна борба с този проблем: няма. Винаги съм искал да разработя стартъп, базиран на тази технология, беше идеалното време, особено след като отговаряше на реална нужда. След това поех залога и риска да се впусна в разработването на AI (без никакво понятие за AI), за който знаех, че трябва да има много ниска степен на грешка/фалшиво положителен риск с риск да загубя незабавно потребителите си, дума за уста и категоризиране на бодигарда като "цензор".

От колко време работите по този проект ?

Работя по проекта вече 1 година, а приложението стартира преди 6 месеца. В началото се сблъсках с огромен проблем: нямах данни и нямах данни, за да мога да обуча бодигард да открива коментари на омраза. През първите 3 месеца трябваше да направя някои маркировки: ръчно да казвам на Bodyguard какво е омраза и какво не, въз основа на „сблъсъци“ в Twitter. Работата по етикетиране и ученето на хора продължава и до днес, но сега разполагам с база данни от 500 000 класифицирани коментара.

Технически как работи ?

Бодигардът се управлява от изкуствен интелект: той възпроизвежда действие, което обикновено изисква човешки мозък (виж: умереност.). Ние анализираме контекста на изречението и се адаптираме към потребителя, който защитаваме. За бързо обобщение:

Първо, търсим изречението за поредица от омразни думи или обида (сред комбинация от няколко десетки милиона думи), независимо от правописа, емотиконите, SMS езика, езика LEET, независимо от това, ако потребителят се опита да цензурирайте обидата или заобиколете бодигарда.

Във втора стъпка ще анализираме контекста, а именно какво е преди и след тези думи и въз основа на това вземаме първо решение: омраза или не омраза.

не слушайте задници, които казват, че сте проститутка -> разпознати от Bodyguard като ненавистни.
ти си п ууууууууууууу т е -> омразен.
Сериозен съм задник понякога -> не омразен.
ти наистина си гроооооосссссссеееееееееееееее ****** -> омразно.
t майка c tlmnt 1 p * te -> омраза.

Това са основни примери, но технологията работи разбира се с всички видове насилие: заплахи, сексуален тормоз, морал, тролинг, подигравки, омраза, хомофобия, обиди, расизъм ...

Грозно -> подигравка -> омраза.
Не се притеснявайте от онези, които казват, че сте грозни -> не омразни.
T видео c shit, не шегувам се -> няма омраза.
Не си красива -> омраза.
Вие сте красива -> не омразна.
Не слушайте онези, които казват, че сте красива -> подигравки -> омраза.
Наистина си красива, не, шегувам се. -> подигравка -> омраза.
Заслужавате да бъдете изнасилени. -> сексуален тормоз -> омраза.
Майка ти заслужава шамари -> заплаха -> омраза.
Вашият голям 👃 -> подигравка