NUEVAS TECNOLOGÍAS

ChatGPT : ¿qué es y por qué está siendo prohibido para el sistema escolar, por ahora en E.E.U.U.?

El nuevo programa de inteligencia artificial deslumbra a los internautas y plantea enormes desafíos para los educadores y la sociedad en general.

Sociedad 22/01/2023 . Hora: 14:26

Por Matt O"Brien

Pedile al nuevo programa de inteligencia artificial ChatGPT que redacte un ensayo sobre la causa de la Guerra de Secesión estadounidense y vas a ver cómo genera un trabajo convincente en cuestión de segundos.

Esta es una de las razones por las que las autoridades escolares de Nueva York han empezado a prohibir esta impresionante pero controvertida herramienta de redacción capaz de generar párrafos de texto similares a los de un ser humano.

El mayor distrito escolar de Estados Unidos ha decidido restringir el uso del sitio web ChatGPT en todo tipo de dispositivos y en las redes de sus colegios, lo que podría repercutir en otros centros y en los profesores, que pasan apuros por encontrar la manera de impedir que los alumnos hagan trampa. Los creadores de ChatGPT dicen que también están buscando formas de detectar el uso inapropiado.

Esta herramienta gratuita lleva en el mercado apenas unas semanas, pero ya está planteando preguntas difíciles sobre el futuro de la inteligencia artificial en la educación, la industria tecnológica y una serie de profesiones.

¿QUE ES?

El programa ChatGPT se lanzó el 30 de noviembre, pero es parte de un conjunto más amplio de tecnologías desarrolladas por la startup OpenAI, con sede en San Francisco, que tiene una relación estrecha con Microsoft.

PUBLICIDAD

Es parte de una nueva generación de sistemas de Inteligencia Artificial (IA) que pueden conversar, generar texto legible bajo demanda e incluso producir imágenes y videos novedosos con base en lo que han aprendido de una amplia base de datos de libros digitales, escritos on line y otros medios.

Pero a diferencia de las versiones anteriores de los llamados grandes modelos linguísticos, como el GPT-3 de OpenAI, lanzado en 2020, la herramienta ChatGPT está disponible gratuitamente para cualquier persona con conexión a internet y está diseñada para ser más fácil de usar. Funciona como un diálogo escrito entre el sistema de IA y la persona que le hace preguntas.

Millones de personas han jugado con ChatGPT durante las últimas semanas, utilizando el programa para escribir o canciones o poemas tontos, para intentar engañarlo para que cometa errores o para fines más prácticos, como ayudar a redactar un correo electrónico. Todas esas consultas también le están ayudando a ser más inteligente.

LOS INCONVENIENTES

Al igual que otros sistemas similares, ChatGPT puede generar una prosa convincente, pero eso no significa que lo que diga sea cierto o lógico.

PUBLICIDAD

Su lanzamiento vino con poca orientación sobre cómo usarlo, aparte de la promesa de que ChatGPT admitirá cuando esté equivocado, pondrá en duda las "premisas incorrectas"" y rechazará aquellas solicitudes destinadas a generar respuestas ofensivas. Desde entonces, sin embargo, su popularidad ha llevado a sus creadores a intentar bajar las expectativas de algunas personas.

"ChatGPT es increíblemente limitado, pero lo suficientemente bueno en algunas cosas como para crear una impresión engañosa de grandeza", tuiteó en diciembre el CEO de OpenAI, Sam Altman. "Es un error confiar en él para algo importante en este momento", admitió Altman.

"Es una vista previa de los avances. Tenemos mucho trabajo por hacer en cuanto a solidez y veracidad".

ENSAYOS

¿SE PUEDE UTILIZAR CHATGPT PARA ESCRIBIR ENSAYOS ESCOLARES?

Esto es lo que escribió el propio ChatGPT cuando The Associated Press le pidió que respondiera esa pregunta en mayúsculas, para dar la apariencia de que había sido redactada por un director escolar emitiendo una advertencia breve y en voz alta a través del sistema de altoparlantes de una escuela:
"NO UTILICEN CHATGPT NI NINGUN OTRO PROGRAMA DE REDACCION AUTOMATIZADA PARA LOS ENSAYOS ESCOLARES. ESTO ES HACER TRAMPA Y NO SE TOLERARA. SI SE LES DESCUBRE UTILIZANDO CHATGPT O CUALQUIER OTRO PROGRAMA DE REDACCION AUTOMATIZADA PARA LOS ENSAYOS ESCOLARES, HABRA CONSECUENCIAS GRAVES".

Pero cuando se le pidió que respondiera la misma pregunta por su cuenta, ChatGPT ofreció esta advertencia más mesurada: "Como regla general, no es apropiado usar ChatGPT ni ninguna otra herramienta de redacción para ensayos escolares, ya que se considera hacer trampa y eso no beneficiará al estudiante a largo plazo".

Muchos distritos escolares debaten hoy en Estados Unidos cómo fijar políticas sobre si se puede usar el programa y cómo.

El departamento de Educación de la ciudad de Nueva York dijo el 5 de enero que está restringiendo el acceso al programa a través de las redes o los dispositivos escolares, alegando que teme los impactos negativos que pueda causar en el aprendizaje de los estudiantes, así como las "preocupaciones con respecto a la seguridad y precisión del contenido".

Sin embargo, nada impide que un estudiante acceda a ChatGPT desde un teléfono personal o una computadora en casa.

"Aunque el programa puede proporcionar respuestas rápidas y sencillas a las preguntas, no fomenta el pensamiento crítico ni la capacidad de resolver problemas, que son esenciales para el éxito académico y en la vida", declaró Jenna Lyle, portavoz del distrito.

COMO DETECTARLOS

"Para tratar de determinar si algo ha sido escrito por un ser humano o por una IA, hay que estar atentos a la ausencia de experiencias o emociones personales, buscar incoherencias en el estilo de escribir y observar el uso de palabras de relleno o frases repetitivas. Estos pueden ser indicios de que el texto fue generado por una IA". Eso es lo que ChatGPT le respondió a un periodista de la AP cuando le preguntó cómo descubrir la diferencia.

La empresa OpenAI dijo en una declaración a inicios de enero que planea trabajar con los educadores mientras aprende cómo experimentan las personas con ChatGPT en el mundo real.

"No queremos que se use ChatGPT con fines engañosos en las escuelas o en cualquier otro lugar, por lo que ya estamos desarrollando medidas paliativas para ayudar a cualquiera a identificar texto generado por ese sistema", aseguró la compañía.

¿AMENAZA A GOOGLE?

Hay conjeturas de que ChatGPT podría dar un vuelco al negocio de las búsquedas en internet, actualmente dominado por Google, pero ese gigante tecnológico ha estado trabajando en una tecnología similar desde hace años, pero Google ha sido más cauteloso en cuanto a la idea de lanzarlo al público.

De hecho, fue Google el que ayudó a impulsar la tendencia de modelos de lenguaje de IA cada vez más grandes y más inteligentes que podrían ser precapacitados para una amplia cantidad de escritos. 

En 2018, la empresa introdujo un sistema conocido como BERT, que utiliza una técnica de transformador mediante la cual compara palabras en una oración para predecir el significado y el contexto. Algunos de esos avances están integrados actualmente en las búsquedas de Google.

 

(La Prensa)

Aporte Solidario

Tu contribución nos ayuda a seguir construyendo un periodismo distinto de calidad y autogestión.
Contribuir ahora
Comentar esta nota
Agroecología
Una semilla crece sin sonido, pero un árbol cae con un ruido enorme. La destrucción hace ruido, pero la creación es silenciosa.
Turismo en el Sudoeste Bonaerense
Cultura / Un día como hoy: Atahualpa Yupanqui
Clima en SudOeste B.A.