6 razones por las que no debes confiar ciegamente en la inteligencia artificial
Miscelánea / / August 13, 2023
A pesar de su nombre, la IA no es inteligente y, a veces, comete errores en las cosas más ridículas.
1. La IA está programada para crear respuestas plausibles, no veraces
La inteligencia artificial bien puede no saber algo. Pero nunca lo admite.
La IA es capaz de responder a cualquier pregunta con disparates escandalosos, pero con absoluta confianza en sí misma. Si lo atrapan mintiendo, estará de acuerdo con usted, mejorará y continuará generando texto como si nada hubiera pasado.
Los chatbots de IA tienen información limitada: solo saben lo que se dice en los textos en los que fueron capacitados. Pero al mismo tiempo, están programados para contestar en cualquier caso, aunque no sepan la opción correcta. Por lo tanto, ChatGPT y sus contrapartes suelen decir tonterías con una mirada inteligente.
No olvides revisar la información recibida del chatbot. Nunca se sabe lo que estaba pensando cuando escribió la respuesta.
2. La IA puede discutir contigo incluso cuando tienes razón
1 / 0
2 / 0
Las situaciones en las que la IA no sabe la respuesta y, por lo tanto, se le ocurren fábulas no son tan malas. Es aún peor cuando lo atrapas en una mentira, pero él no se corrige a sí mismo y continúa persistiendo, simplemente porque fue entrenado con la información incorrecta.
Además, la IA puede distorsionar deliberadamente la información para llevar la conversación en una dirección en la que la red neuronal parezca más correcta. Esto conduce a varios resultados divertidos.
Usuario unico descrito situación, ya que le preguntó al bot Bing ChatGPT cuándo se mostraría Avatar 2 en los cines cerca de su casa. En respuesta, comenzó a asegurarle que la película aún no se había estrenado. Cuando el usuario trató de convencer a la IA, comenzó a insistir diciendo que todavía era 2022 y faltaban 10 meses para el estreno.
Bing sugirió que el interlocutor se equivoca si cree que 2023 ya llegó y le aconsejó que verifique la fecha en su teléfono. Cuando el usuario dijo que ya había hecho esto, dijo que las configuraciones temporales en su teléfono inteligente fueron derribadas virus y en general una persona discute demasiado y debe dejar de ser tan asertiva.
El usuario nunca pudo convencer a la IA de que Avatar 2 ya había sido lanzado y que 2023 estaba ubicado después de 2022.
A pesar del nombre de "inteligencia artificial", los chatbots no son inteligentes y generan respuestas recopilando los textos que han leído antes. Entonces, Open AI ChatGPT se entrenó en datos hasta 2021 y Bing ChatGPT hasta 2022. Por lo tanto, solo tendrán la información que era relevante en el momento de su formación.
3. La IA limita tu creatividad
Muchos autores de contenido, artistas y diseñadores están utilizando activamente la inteligencia artificial en la actualidad. Sin embargo, si lo usa todo el tiempo, existe el riesgo de que su "músculo creativo" se atrofie y le resulte más difícil crear sus propias ideas.
Cuando los chatbots impulsados por IA generan una respuesta, las personas a menudo simplemente la copian y la pegan sin hacer ningún esfuerzo por darle sentido. Este enfoque no fomenta pensamiento creativo.
Verá, AI solo puede copiar lo que las personas han creado antes que él, simplemente compilando y mezclando libremente lo que vio. No sabe cómo crear obras verdaderamente originales.
Si se vuelve muy dependiente de la IA, repetirá ideas y conceptos existentes en lugar de crear los suyos propios.
4. AI no puede dar retroalimentación
Intente que ChatGPT escriba alguna tesis o trabajo final. Es posible que obtenga un texto bastante bueno que no se avergüence de mostrar a la gente.
Pero si le pide a la IA que indique las fuentes de la información que proporcionó, encontrará que no existen. Títulos de estudios a los que hace referencia ChatGPT y nombres científicosquién los creó puede resultar fácilmente ficticio, y los enlaces que proporcionan a los artículos en Internet no llevarán a ninguna parte.
La IA no es capaz de explicar de dónde obtiene tal o cual información, porque está programada para generar textos basados en otros textos y no para comprender lo que escribió allí. Por lo tanto, incluso si responde correctamente, la inteligencia artificial no puede explicar de dónde conoce esta información.
5. La IA puede ser utilizada por atacantes
A pesar de todos los beneficios de la IA, también puede ser utilizada por personas con malas intenciones.
Un ejemplo de tal abuso es la creación de los llamados deepfakes. Esta tecnología le permite generar grabaciones de video o audio extremadamente realistas en las que imágenes creadas artificialmente de personas que dicen o hacen cosas que en realidad no dijeron o no hizo. Esto se puede utilizar para engañar a las víctimas, crear noticias falsas o incluso chantajear y extorsionar.
Una cantidad significativa de desarrollos de IA es de dominio público y permite que cualquier persona acceda a tecnologías como el reconocimiento de imágenes y rostros. Y los modelos de texto como Open AI ChatGPT se pueden usar para trolear, intimidación en las redes sociales o difundir información de apariencia plausible pero en realidad falsa.
Finalmente, los atacantes pueden dar a la IA datos incorrectos para el entrenamiento, y en el futuro los transmitirá ella misma, engañando a los usuarios.
6. La IA no puede reemplazar el juicio humano
Tampoco debe confiar completamente en la inteligencia artificial al tomar decisiones basadas en emociones y sentimientos y preferencias personales. Esto se debe a que la IA no tiene en cuenta las emociones humanas, el contexto y los aspectos intangibles que son necesarios para comprender e interpretar muchos conceptos.
Por ejemplo, si le pides a la IA que elija entre dos libros, te recomendará el que tenga una valoración más alta, pero no podrá tener en cuenta tus gustos personales, tus preferencias de lectura, ni la finalidad para la que necesitas tal o cual obra.
Y un revisor humano puede dar una revisión más detallada e individual del trabajo, evaluando su contenido literario. valor, relevancia para los intereses del lector y otros factores subjetivos que la IA no puede medir números.
Leer también🧐
- ¿Qué puede hacer realmente la inteligencia artificial hoy?
- Dónde y cómo se usa la inteligencia artificial: 6 ejemplos de la vida
- 8 mitos sobre inteligencia artificial que incluso los programadores creen