Modera el contenido en Internet con API

La moderación de contenido ha sido sobre todo en la demanda con sitios web de redes sociales y de citas

0
731 views
API, inteligencia artificial

Los avances en Inteligencia Artificial y Aprendizaje Profundo han transformado la forma en que los ordenadores comprenden las imágenes y vídeos. En los últimos años, las innovadoras estructuras de redes neuronales y el hardware de gama alta han ayudado a los equipos de investigación a lograr resultados innovadores en la detección de objetos y la descripción de escenas. Esas estructuras se han convertido en la mejor opción para construir modelos generalistas con el fin de reconocer cualquier objeto en cualquier imagen.

Están consiguiendo que su servicio de moderación de imagen y vídeo esté disponible en todo el mundo a través de una sencilla API.

Estos avances se están aplicando ahora a casos de uso específicos, uno de los cuales es moderar el contenido. Sightengine, un I.A. construido sobre Redes Neuronales especializadas, el API analiza las imágenes o vídeos entrantes y detecta si contienen material ofensivo, como desnudos, contenido para adultos o escenas sugestivas. Igual que lo hacen los moderadores humanos. A diferencia de las redes, compañías como Google, Facebook o Microsoft utilizan para la detección de objetos, estas redes neuronales son especialistas, diseñadas y entrenadas para sobresalir en una tarea específica.

Históricamente, la moderación de contenido ha sido sobre todo en la demanda con sitios web de redes sociales y de citas. Se basaron en el personal que tenía que pasar a través de contenido presentado por el usuario de forma manual, o en su comunidad que tenía que marcar y reportar el contenido. Pero hoy, la moderación del contenido ya no se limita a los nichos de mercado. A medida que los teléfonos inteligentes equipados con cámaras se han convertido en omnipresentes, y como el uso de redes sociales y herramientas de autoexpresión han seguido aumentando, la generación y el intercambio de fotos han explotado literalmente en los últimos años.

Se estima que más de 3 billones de imágenes se comparten todos los días en línea, junto con millones de horas de secuencias de vídeo. Es por eso que cada vez más propietarios de aplicaciones, editores y desarrolladores están buscando soluciones para asegurarse de que su público y usuarios no están expuestos a contenido no deseado. Este es un imperativo moral, así como un imperativo legal, y es clave para la construcción de un producto de confianza de los usuarios y similares.

Sin olvidar la pequeña línea que existe entre contenido censurable y no censurable. Los límites entre lo políticamente correcto o incorrecto es demasiado amplio. Depende del lugar en el que te encuentres, su cultura, rango de edad, y múltiples factores determinantes que API puede conseguir.

No hay comentarios

Dejar respuesta