Cómo determinar que el texto fue escrito por una red neuronal

Por datos Bloomberg, alrededor del 30% de los especialistas utilizan redes neuronales para generar texto. En Rusia, el 67% de los encuestados quiero aplicar en el trabajo de la inteligencia artificial para trabajar menos y no perder ingresos. Esas son esas estadísticas que no agradan a todos los clientes. Algunos no confían en las redes neuronales, por lo que prefieren que los textos no los escriban robots, sino personas.

Entendemos por qué los clientes desconfían de las tecnologías y qué medios existen hoy en día para exponer los neurotextos.

Por qué los textos de las redes neuronales deben tratarse con precaución

Estas son las razones principales por las que los clientes desconfían de este tipo de artículos.

Riesgo de infracción de derechos de autor

Hoy no hay una posición oficial sobre la cuestión de quién pertenecer derechos de autor para textos creados con la ayuda de AI. De acuerdo con la ley, un autor es una persona que crea una obra mediante un trabajo creativo o intelectual. Sin embargo, en el caso de

red neuronal las personas solo dan instrucciones, pero no se escriben a sí mismas.

Dado que ahora la ley no reconoce a los neurotextos como objeto de derechos de autor, las reglas para el uso de contenidos generados por tecnologías están determinadas en el acuerdo de uso de la red neuronal.

Y si abre AI transmite derechos sobre el texto incluso en la versión gratuita, entonces Gerwin limites su uso con fines políticos, discriminatorios o en publicidad desfavorable. Y en a mitad de camino utilizar el contenido con fines comerciales Poder sólo si el producto se genera a una tarifa pagada.

Riesgo de obtener información no única o inexacta

La red neuronal recibe una solicitud, la pasa a través de algoritmos, analiza la información disponible sobre el tema y emite una respuesta. Sin negar que la misma solicitud de otro usuario pueda producir un texto similar o similar.

Y aquí viene un nuevo peligro. Investigadores de la Universidad de Cornell idearon conclusión: si las respuestas de la red neuronal a la misma pregunta varían mucho, entonces es muy probable que encuentre hechos.

El riesgo de que los neurotextos bajen el recurso de la empresa en los resultados de búsqueda

A fines del año pasado, el especialista en calidad de Google Duy Nguyen declaradoque la empresa cuenta con algoritmos para detectar y degradar el contenido creado inteligencia artificial. Por lo tanto, muchos temen que los motores de búsqueda busquen dicho contenido y lo pesimicen. Es decir, para bajar la posición en los resultados de búsqueda.

Los precedentes ya existen. Por ejemplo, el especialista en marketing Neil Patel gastó experimentomediante la creación de 50 sitios web de prueba, que dividió en dos grupos. El experto llenó los sitios de la primera parte con artículos creados exclusivamente por inteligencia artificial. Los sitios del segundo alojaron artículos de IA modificados por personas, así como materiales escritos por redactores sin el uso de redes neuronales.

Los resultados del experimento mostraron que los recursos del primer grupo perdieron varias posiciones en los resultados de búsqueda. Y llevó a disminuir tráfico hasta un 70%.

Al mismo tiempo, los representantes de Google agregaron que tienen una actitud positiva hacia el desarrollo de redes neuronales y ya crearon las suyas propias. Chatbot Bardo. Pero para la empresa, los textos de calidad son una prioridad. El sistema, que clasifica los resultados, en primer lugar ofrece a los usuarios materiales que cumplen normas E‑E‑A‑T (experiencia, competencia, credibilidad, credibilidad).

Los textos que les corresponden inspiran confianza y se consideran útiles porque contienen ejemplos, experiencia, parte analítica e investigación. Y el contenido que crean las redes neuronales, sin un refinamiento profundo adicional por parte de una persona, a menudo no es tal.

Mientras tanto, en la Duma Estatal sugirió introducir el etiquetado de los materiales creados con la ayuda de la IA. Hasta que eso suceda, determine que el texto generada por una red neuronal, tendrá que hacerlo usted mismo. O con la ayuda de servicios especiales.

Cómo determinar de forma independiente que el texto fue escrito por una red neuronal

Universidad Tecnológica MIREA celebró recientemente experimento, al que asistieron 20 profesores y más de 200 alumnos. La mitad de ellos escribieron artículos científicos por su cuenta. Y el otro 50% utilizó la ayuda de las redes neuronales. Los maestros, por otro lado, tenían que calcular dichos materiales de IA.

Para ello, los profesores prestaron atención a las características estilísticas y ortográficas del texto. Por ejemplo, para una gran cantidad de palabras y significados repetitivos, reales y lógicos errores, falta de sentencias originales. De esta forma, los docentes pudieron identificar el 96% del trabajo escrito utilizando la red neuronal. El 4% de los estudiantes que no estuvieron expuestos admitieron que pasaron muchas horas editando texto de IA.

No existe una instrucción universal que ayude a calcular el texto generado por la red neuronal. Sin embargo, el experimento muestra que patrones similares son inherentes a dichos materiales. Considerémoslos con más detalle.

Repeticiones de significados y palabras.

Una de las razones por las que un sitio baja en los resultados de búsqueda es la reoptimización de palabras clave. La red neuronal en respuesta a una solicitud a menudo "responde en círculo". A veces usa diferentes ocurrencias, pero el significado aún se repite.

Entonces, en la captura de pantalla a continuación, se encargó a la inteligencia artificial que escribiera una publicación de venta sobre una forma nueva y suave de teñir el cabello. Y en un pequeño texto, la red neuronal repetía repetidamente las mismas tesis.

Casi todas las oraciones texto generado se repite la frase "una nueva forma de teñir". Y también hay una duplicación repetida de significados sobre la seguridad del método y un enfoque individual, que enfatizará la singularidad de cada cliente.

Aquí hay algunas citas del texto que ilustran esto: "transforma tu imagen y expresa tu individualidad", "toma en cuenta tu individualidad", "adecuado para ti", "crea para ti". aspecto único y elegante", "haz que tu peinado sea único", "preserva la salud y el brillo de tu cabello", "seguro para tu cabello", "cuida tu cabello, preservándolo salud".

Mientras tanto, fue suficiente mencionar una vez que se presentó un nuevo procedimiento en el salón - ahorrando método de tinciónque mantendrá el cabello vivo. Y también explicar cómo funciona el método, cuál es su novedad y por qué es seguro. Y agregue que la paleta de colores es diversa, y los maestros que han sido capacitados no solo realizarán la coloración con alta calidad, sino que también ayudarán con la elección del color.

La presencia en el texto de una gran cantidad de sellos y clichés, la falta de experiencia sensorial.

El ejemplo para colorear también muestra que una red neuronal no puede imitar cómo habla una persona en la vida real. La gente sella, usa jerga y abreviaturas, distorsionan intencionalmente las palabras. Tal presentación ayuda a llamar la atención, evocar emociones, transmitir la posición del autor, su experiencia sensorial.

Investigación espectáculo: la red neuronal no comparte sentimientos, no acepta la posición de nadie. Por eso, prefiere la neutralidad, los clichés y los clichés. En el ejemplo anterior, se trata de "habilidades profesionales", "materiales de alta calidad", "oportunidad única".

Al mismo tiempo, la red neuronal genera textos en diferentes estilos. Por ejemplo, puede darle la tarea de preparar un material sobre el tema "¿Qué afecta el costo de aceite». Pero aclarar que el texto no debe estar escrito en un lenguaje seco, sino con el agregado de metáforas y comparaciones. Sin embargo, el resultado sigue siendo artificial. Después de todo, la IA no tiene medida, no “siente” el texto como lo hace una persona.

Uno de los párrafos ayudará a ver que el resultado obtenido no se puede comparar con la entonación inherente a una persona: “La demanda y la oferta son como un baile de dos amantes en el mercado del petróleo. Si demanda de petroleo sube como un océano embravecido, y si la oferta no se mantiene, los precios suben como el champán en una fiesta de Nochevieja. Pero si la demanda baja y la oferta sube, entonces los precios pueden caer como un globo en una fiesta infantil".

El texto parece artificial y la mayoría de los giros están fuera de lugar. Y aunque la publicación realmente resultó ser "no seca", es difícil imaginar que un experto hubiera escrito de esta manera. Además, literalmente cada frase es una metáfora y una comparación. Sin embargo, dichas técnicas deben ser precisas y estar claramente integradas en el texto. De lo contrario, se perderá el sentido detrás de un exceso de imágenes.

Presencia de frases sin sentido y falta de lógica.

El lingüista Noam Chomsky en su libro Estructuras sintácticas señala que la construcción gramaticalmente correcta de frases en una oración no garantiza la presencia de lógica y significado Como ejemplo, el experto citó la frase las ideas verdes incoloras duermen furiosamente - "las ideas verdes incoloras duermen furiosamente".

Los algoritmos ayudan a la red neuronal a construir oraciones correctas en términos de gramática. Sin embargo, para la IA no existe el concepto de "significado". Y puede tener su propia lógica para cada párrafo, ya que el material se obtiene de diferentes fuentes.

Por ejemplo, se le pidió a una red neuronal que generara reseñas para un gel de ducha y un chándal. El texto sobre la ropa quedó así: “Con la ayuda de un traje, puedes relajarte, sumergirte en el mundo del deporte y también salir a caminar. Dispone de control de temperatura, gracias al cual te sientes cómodo en cualquier situación.

Y aquí hay una reseña sobre el gel de ducha: “Gel maravilloso, no gotea, no apelmaza la piel. Embalado en una bolsa, en una caja, con tapa. No hace falta esperar a nada extra para que se desmorone un poco. Se puede utilizar como gel de ducha de noche.

Algunas frases en ellos fornido, pero al mismo tiempo parecen absurdos y se asemejan a la ilustración de Chomsky.

Falta de textura y ejemplos superficiales.

La inteligencia artificial brinda información obvia en los textos, hechos generales, usa frases simplificadas y ejemplos que no revelan mucho la pregunta. En este caso, la complejidad del tema no importa. La pregunta puede ser profunda, como las perspectivas de desarrollo. inclusiones En Rusia. O más simple e individual, en cuanto a la elección de la técnica.

En el texto sobre inclusión, la red neuronal contó cuán importante y relevante es este tema. También agregó que la inclusión es un proceso largo, acompañado de dificultades, pero se está trabajando para crear condiciones para las personas con necesidades especiales. Y resumido: si no se detiene, entonces el desarrollo ciertamente lo será.

Sin embargo, lo que está escrito no responde a la pregunta. Es importante que el texto sea específico. Por ejemplo, puede analizar cuáles de las leyes adoptadas funcionan y cuáles no, y por qué. Para revelar la experiencia extranjera. Y explique qué pasos concretos aún pueden tomar el estado, las empresas y cada persona para desarrollar la inclusión.

En el texto sobre comprar un teléfono inteligentegenerados por la red neuronal, también se indican los factores de selección obvios. Por ejemplo: debes decidir sobre el sistema operativo (iOS o Android), marca, leer reseñas y especificaciones técnicas, y también tener en cuenta tus propias capacidades.

Sin embargo, la gente entiende esto. Otra cosa es hablar de los chips de los sistemas operativos, indicar las limitaciones que existen en estos momentos. O mencione soluciones innovadoras, por ejemplo, la tecnología eSIM, que le permite tener hasta cinco números en un teléfono inteligente. O comparta modelos de dispositivos caros y sus contrapartes al mejor precio.

Distorsión de hechos, adición de información inventada

La red neuronal responde plausiblemente a casi cualquier pregunta, brindando una crónica, fechas, apellidos, historia de origen. En este caso, la información está distorsionada o completamente inventada. Tal error en el trabajo de la IA se llama alucinación.

Entonces, la red neuronal se dio a la tarea de contar sobre el famoso personas sordasquienes hicieron una gran contribución al desarrollo de la sociedad. Como resultado, AI inventó la mayoría de ellos.

Por ejemplo, el astronauta Raymond Lou o el boxeador Mario Gallegos. Y el 42º presidente de los Estados Unidos aún no era Matthew Clinton, sino Bill Clinton. Y no perdió la audición.

Además, AI respondió con confianza a la solicitud “escribe una publicación sobre creatividad amnesia». Aunque no existe tal término.

Cuando se le pregunta por qué el bot inventa personas y habla de términos inexistentes, solo se disculpa por la posible confusión.

Cuando se entrelazan hechos falsos con datos verdaderos, es más difícil detectar alucinaciones de redes neuronales. Especialmente cuando lectura fluida. Pero si te concentras en los ejemplos dados en el texto, puedes notar aquellos que parecen sospechosos y verificarlos escribiéndolos en la barra de búsqueda.

Falta de información actualizada sobre cambios y eventos actuales.

Las redes neuronales aprenden por sí mismas a la hora de comunicarse con los usuarios, recordando las aclaraciones de una persona, su reacción ante el contenido generado, ejemplos que una persona comparte con un bot. Expertos anotadoque la capacidad de autoaprendizaje de la IA les sorprendió. Y que esta habilidad ayuda a mejorar las redes neuronales.

Donde aprendizaje automático, realizado por desarrolladores en gigabytes de datos (artículos, libros, textos de la Web) tiene un principio y un final claros. Y básicamente las redes neuronales no tienen acceso a los motores de búsqueda. Por lo tanto, la información que apareció después del entrenamiento realizado por los desarrolladores no está disponible para la IA hasta la siguiente etapa.

Al mismo tiempo, el intervalo entre el aprendizaje automático es de meses y, a veces, de años. Por supuesto, el progreso no se detiene: por ejemplo, en mayo de este año, GPT Plus estuvo disponible para los usuarios con una suscripción paga. ChatGPT con acceso a Internet. Sin embargo, la mayoría de las redes neuronales, especialmente sus versiones gratuitas, aún no tienen esa oportunidad.

Entonces, la base de la versión gratuita de ChatGPT4 está limitada a 2021, por lo que el bot no sabe quién ganó la última Copa del Mundo en 2022. Y la red neuronal de Google, Bard AI, admitió que no pudo redactar un texto sobre eventos significativos que tuvieron lugar en el mundo este verano.

Dado que los desarrolladores realizaron su última capacitación en mayo de 2023, el verano aún no ha llegado para Bard AI.

En tales casos, las redes neuronales generalmente no presentan hechos, pero admiten que no pueden "Predice el futuro».

Si el texto no contiene información actualizada sobre el tema o parece divorciado de la realidad, ya que mucho ha cambiado recientemente, entonces existe la posibilidad de que el material haya sido escrito por una red neuronal.

Qué servicios pueden ayudar

El texto generado por la inteligencia artificial también se puede reconocer utilizando la propia red neuronal. Por ejemplo, puede bot GPT-4. Los servicios especiales que pueden detectar algoritmos de IA también pueden ayudar. Veamos algunos de ellos a continuación.

1. Texto.ru. El sitio está posicionado como un intercambio de redacción y antiplagio. Pero recientemente apareció en el portal un neuroasistente pagado. Una de sus funciones es un detector de IA. El texto a comprobar debe cargarse en la ventana. Después de unos segundos, el sistema dará el resultado.
2. PR CY. Puede cargar textos de 1,000 caracteres al servicio. Al mismo tiempo, hay aclaraciones en el portal: las opciones de spam de baja calidad que escribió una persona, el sistema las considerará como el resultado del trabajo de la IA. Además de textos con colores estilísticos brillantes, por ejemplo, similares a obras Mayakovski.
3. GPTZero. La herramienta lee la complejidad, combinación de palabras, estructura y longitud de las oraciones. Sin embargo, si el servicio se adapta bien a los textos en inglés, al cargar material en ruso, a menudo da un error. De los beneficios - la presencia de una versión gratuita.

Una red neuronal puede ser de gran ayuda. Por ejemplo, a la hora de buscar ideas. Sin embargo, confiar completamente en su contenido es peligroso. Debe tratar los materiales de AI de manera responsable: edite el spam, verifique la precisión, la lógica y la relevancia de los hechos. Y ajuste el estilo al lenguaje "humano", para no asustar a la audiencia, salve la reputación y la posición de la empresa en los resultados de búsqueda.