YouTube е домакин на множество видеоклипове, привлекателни за широк кръг аудитории, но понякога видеоклиповете могат да бъдат малко твърде достъпни. Анимации за възрастни като „Щастливи приятели на дърво“ или „Не ме прегръщам се плаша“ могат да се харесат на децата със своите ярки цветове или марионетки, макар и да не са подходящи за деца. Изглежда, че платформата за споделяне на видео може да адресира оплаквания с актуализирана версия на приложението YouTube Kids, която ще бъде наблюдавана от реални хора, според доклад на BuzzFeed News. Искането на Romper за коментар от YouTube относно докладите за актуализацията не бе върнато веднага.
Идеята е това ново приложение да съществува съвместно с YouTube Kids, първоначалният опит на компанията да използва алгоритъм за филтриране на съдържание, достъпно за деца, според BuzzFeed News. Информационният бюлетин съобщи, че ще даде на родителите възможност да изключат алгоритмично предложените видеоклипове. Вместо това децата не биха имали достъп до видео, което не е показвано от плът и кръв. Има смисъл; алгоритмите могат да бъдат страхотни, но това е компютърна програма и може да се кодира само да се чете и маркира толкова много.
Приложението YouTube Kids функционира за блокиране на основни търсещи за неподходящи видеоклипове; търсенето на изрично съдържание няма да доведе до никакви резултати. Освен това родителите имаха възможност да премахнат изцяло бутона за търсене, оставяйки на разположение само предварително избрани видеоклипове. Но притесненията около видеоклипове, които YouTube Kids предлага на децата, съществуват от известно време, както съобщи Tech Radar. Въпреки че YouTube Kids е достоен опит да се опита да филтрира вредна информация, има случаи на приложението, за което се твърди, че предполага видеоклипове за конспирация на деца, както съобщава Business Insider.
Други видеоклипове включват твърдения, че светът е плосък, лунното кацане е фалшифицирано и че планетата е управлявана от хибриди на влечуги и хора, според Business Insider. Но YouTube Kids изпитва по-лоши проблеми от теориите на конспирацията от създаването си през 2015 г. По-малко от два месеца след излизането на приложението, през май 2015 г., Кампанията за детство без комерсиално детство, коалиция от групи за застъпничество на деца и потребители, се оплака. до Федералната комисия по търговия (FTC). Притесненията им включваха съдържание, което групата нарече „не само … смущаващи за гледане на малки деца, но и потенциално вредни“.
Използвайки популярни герои от анимационни филми, като Spiderman и Elsa, YouTubers успяха да примамят децата в обидни видеоклипове. Според Полигон видеоклиповете започват нормално, но скоро показват принцеси, супергерои и други любими, участващи в развратни или жестоки действия. Тъй като система, базирана на алгоритъм, не сканира цялото видео, YouTubers успяха да облекат системата с помощта на видео имена и миниатюри, които алгоритъмът чете като безопасен за деца.
Други въпроси, в които списъците с докладите, както съобщава Polygon, включват: изричен сексуален език, представен сред анимационната анимация, пародия на филма „ Казино“ с участието на Берт и Ърни от улица „Сезам“, графични дискусии за възрастни за насилие в семейството, порнография и самоубийства на деца и др. шеги за педофилия и употреба на наркотици и моделиране на опасно поведение.
Това е мястото, където отчетеното приложение ще се намеси. Вместо да се разчита на лесно заблудени алгоритми, цялото съдържание ще трябва да се филтрира през истински хора. Съобщава се, че източникът каза пред BuzzFeed News, че белият вариант на приложението може да бъде пуснат в рамките на следващите седмици. Според BuzzFeed News YouTube не отрече плановете за приложението, но се твърди, че „Ние винаги работим за актуализиране и подобряване на децата в YouTube, но не коментираме слухове или спекулации.“
Но изпълнителният директор на YouTube Сюзън Войчицки заяви, че през 2018 г. компанията разширява своя модератор на над 10 000 изпълнители, според Polygon, и те ще се съсредоточат върху съдържание, което може да наруши политиките на YouTube. „Човешките рецензенти остават от съществено значение както за премахването на съдържанието, така и за системите за машинно обучение, тъй като човешката преценка е от решаващо значение за вземането на контекстуализирани решения относно съдържанието“, пише тя в блог публикация от декември 2017 г.
Следното изявление беше пуснато от YouTube по това време към Polygon:
Съдържание, което подвежда или застрашава децата, е неприемливо за нас. Имаме ясни правила срещу тези видеоклипове и ги прилагаме агресивно. Използваме комбинация от машинно обучение, алгоритми и маркиране на общността, за да определим съдържание в приложението YouTube Kids. Екипът на YouTube е съставен от родители, които се грижат дълбоко за това и се ангажират да правят приложението по-добро всеки ден.
Въпреки че YouTube все още не е потвърдил разработването на това ново приложение, изглежда, че то би спазвало политиките и стандартите на компанията. Да се надяваме, че YouTube ще продължи да реагира на проблемите, свързани с YouTube Kids, така че родителите могат да се доверят, че децата им няма да бъдат запознати с тревожно съдържание в приложение, предлагано на деца.
