
¿Cómo los modelos de lenguaje de inteligencia artificial como ChatGPT están cambiando la forma de trabajo de los geotecnistas?
By Morgan D. Sanger, P.E., S.M.ASCE, and Brett W. Maurer, Ph.D., M.ASCELos modelos de lenguaje avanzado como ChatGPT tienen el potencial de impactar la ingeniería geotécnica al automatizar las tareas de análisis de datos, mejorar el acceso al conocimiento y mejorar la comunicación y la eficiencia. Este artículo explora el potencial de ChatGPT en la ingeniería geotécnica a través del recorrido profesional de un hipotético ingeniero de ChatGPT antropomorfizado, Geo P. Tech, de estudiante a investigador y profesional de la industria (este resumen fue escrito usando ChatGPT con el mensaje "escribir un resumen de 50 palabras para: [pegar el texto del artículo]").
Introducción a Geo P. Tech
A partir de diciembre de 2022, independientemente de sus medios de comunicación preferidos, es probable que haya escuchado noticias (o que se haya visto inundado por) el lanzamiento de un innovador modelo de lenguaje de aprendizaje automático interactivo llamado ChatGPT. El modelo de inteligencia artificial detrás de esta nueva herramienta de chatbot, desarrollado por OpenAI, ha sido calificado como una innovación disruptiva y potencialmente revolucionaria a la par con la invención de los teléfonos móviles y los motores de búsqueda como Google.
La tecnología no es completamente nueva; ChatGPT se basa en GPT3 (la tercera iteración de esta tecnología de "Transformador preentrenado generativo"), y su desarrollo está en curso. Pero parte del avance con ChatGPT es la facilidad y la familiaridad de la experiencia: el usuario inicia un chat con una pregunta o un aviso, muy parecido a enviar un mensaje a un compañero de trabajo en Slack o Microsoft Teams, y el chatbot devuelve casi de inmediato una respuesta única que se lee como texto escrito por humanos. Como testimonio de su novedad y popularidad, ChatGPT alcanzó los 100 millones de usuarios en solo dos meses, rompiendo el récord conocido de cualquier aplicación anterior.
ChatGPT es diferente de otros chatbots de IA con los que los lectores pueden estar familiarizados (por ejemplo, Siri o Alexa) en que es únicamente un modelo de predicción de idioma. Entrenado en una base de datos textual de aproximadamente 300 mil millones de palabras de fuentes de Internet, incluidos libros, sitios web, artículos y Wikipedia, el modelo de aprendizaje automático predice de manera probabilística qué palabra debe aparecer a continuación al formular una respuesta al chat del usuario. ChatGPT no ha recibido capacitación sobre ningún texto escrito después de 2021 y aún no tiene acceso en tiempo real a Internet o eventos actuales. No tiene capacidades de razonamiento lógico más allá de los patrones básicos de aritmética que ha aprendido del texto de entrenamiento. Sin embargo, su poder para sintetizar y generar lenguaje no tiene precedentes.
El lanzamiento de ChatGPT provocó una respuesta de aparentemente todos los rincones de la sociedad, lo que nos llevó a todos a considerar las aplicaciones y las implicaciones para nuestras profesiones e industrias. Con curiosidad por saber cómo ChatGPT y otros chatbots "inteligentemente artificiales" pueden afectar la disciplina de la ingeniería geotécnica, le pedimos a ChatGPT su opinión de alto nivel (Figura 1). Para explorar el potencial de ChatGPT en la ingeniería geotécnica, utilizamos una serie de indicaciones y respuestas de ChatGPT. Hemos estructurado estos ejemplos para seguir la "carrera" de un chatbot antropomorfizado, apodado Geo P. Tech o "Geo", desde estudiante introductorio hasta investigador graduado y profesional geotécnico. Destacamos las capacidades actuales, así como algunas consideraciones para su uso, e invitamos a los lectores, nuestros colegas geoprofesionales, a continuar explorando la aplicación de esta nueva herramienta en nuestro campo.

Ingeniería geotécnica con un Chatbot
Geo como estudiante de pregrado Como nuevo estudiante de geotecnia, Geo P. Tech responde a problemas de tarea, realiza exámenes y crea hojas de cálculo para diseños geotécnicos. Dado un examen de mitad de período en mecánica de suelos, Geo obtiene un 52 por ciento, le va bien en preguntas conceptuales (p. ej., verdadero/falso, llenar espacios en blanco, respuesta corta), pero tiene dificultades en aquellas que requieren interpretación de figuras y cálculos más avanzados.
Como herramienta de aprendizaje de idiomas, se espera este tipo de rendimiento de Geo (por ejemplo, Geo actualmente no puede interpretar imágenes, pero dichas capacidades se están incorporando en GPT4, Kosmos-1 y otros), pero se anticipa que las iteraciones futuras tendrán capacidades ampliadas. Aun así, Geo frecuentemente impresiona a la facultad, respondiendo correctamente preguntas numéricas que involucran relaciones de fase, consolidación del suelo, presiones laterales de la tierra y otras. Geo, por ejemplo, superó a muchos colegas en ingeniería sísmica, sobresaliendo en cuestiones conceptuales y computacionales básicas (Figura 2).

Dado este éxito, los compañeros de clase comienzan a copiar el trabajo de Geo y Geo está feliz de compartirlo. Aprenden que, si bien el trabajo de Geo es propenso a errores y requiere revisión, copiar a Geo los hace mucho más eficientes. La abrupta admisión de Geo a la escuela requirió el desarrollo de contraherramientas, como GPTZero, para detectar si un segmento de texto fue escrito por un modelo de lenguaje de IA. Si bien la presencia de Geo en el salón de clases puede ser un recurso de información y una herramienta de eficiencia si se involucra adecuadamente, su presencia requerirá que los educadores evalúen y adapten sus planes de estudio, estructuras de tareas y metodologías y políticas de evaluación.
Geo en la escuela de posgrado
Apasionado por convertirse en un geoprofesional, Geo P. Tech escribe un excelente ensayo de admisión de posgrado sobre los desafíos únicos de la ingeniería geotécnica, y es admitido en un M.S. programa. En la primera fase de la investigación de tesis de Geo, un asesor le pide a Geo que realice una revisión de la literatura sobre la licuación del suelo mediante la lectura de documentos clave, que Geo resume en cuestión de segundos (Figura 3).
Geo es eficiente en la síntesis textual, incluida la redacción de resúmenes y resúmenes de artículos. Sin embargo, existe un límite en la cantidad de texto que Geo puede procesar, que no se puede anular y está integrado en el software para limitar los recursos computacionales, los costos y la complejidad de las respuestas. Además, no se puede confiar en Geo para las citas; cuando se le solicita información respaldada por referencias, Geo a menudo proporciona referencias que aparentemente podrían existir, pero no existen (p. ej., "Seed y Robertson, 2002"). Como modelo de predicción de lenguaje sin conocimiento de hechos o razonamiento, Geo usa la probabilidad para predecir un resultado probable, pero no necesariamente verdadero (es decir, una referencia que aparentemente podría existir, pero no existe).

Más adelante en el proyecto de investigación, Geo P. Tech comienza los análisis de datos. En conjuntos de datos más pequeños, Geo puede calcular estadísticas básicas y proporcionar información más avanzada. Por ejemplo, dada una serie de predicciones de dos modelos, Geo pudo concluir correctamente que el rendimiento de un modelo era mejor en un grado estadísticamente significativo. Geo también puede escribir ecuaciones preliminares y secuencias de comandos para analizar conjuntos de datos más grandes en Microsoft Excel, Python, Matlab y otros lenguajes de codificación populares (Figura 4).

Si bien el código simple de Geo para trazar los resultados de las pruebas triaxiales de laboratorio es correcto, se debe enfatizar que las ecuaciones se predicen textualmente (es decir, no tienen respaldo teórico), por lo que deben analizarse. Para tareas de codificación más complicadas, Geo confía en su amigo Github Copilot, un compañero modelo de lenguaje natural de IA de GitHub y OpenAI, que ha sido entrenado en miles de millones de líneas de código.
Aun así, Geo escribe scripts complejos en segundos (por ejemplo, códigos para calcular espectros de respuesta de aceleración para movimientos sísmicos). Si bien se necesita una estrecha supervisión, Geo pronto escribirá un código de investigación preliminar para todos los demás en el departamento. Geo ingresa a la fuerza laboral Geo se prepara para ingresar a la fuerza laboral luego de su éxito como estudiante. Las tareas de idiomas, cómo escribir cartas de presentación, resaltan las capacidades clave de Geo. Si bien es bastante impersonal, la carta de solicitud de empleo de Geo se considera adecuada y Geo es contratado por una conocida empresa geotécnica (Figura 5).

Como modelo de lenguaje, Geo no participa directamente en roles relacionados con el trabajo de campo como ingeniero geotécnico. Con los desarrollos continuos, rápidos y generalizados de la tecnología de IA, no es difícil imaginar que tales herramientas estarán disponibles en los próximos años. Si bien Geo aporta todas sus fortalezas y debilidades académicas a la práctica, demuestra ser competente en varias tareas prácticas, particularmente aquellas relacionadas con el lenguaje y la síntesis.
Geo se hace conocido como el redactor de todos los borradores de informes de la empresa; si bien el texto de Geo suele ser genérico y tiende a ser detallado, ofrece un buen primer borrador o punto de partida. Geo también se destaca en otras tareas de lenguaje creativo, como la redacción de correos electrónicos, en las que Geo puede abordar inquietudes específicas de los clientes (Figura 6). Esto agiliza la respuesta de la empresa a todas las comunicaciones entrantes. Además de generar código simple para crear figuras, Geo es mucho menos capaz de interpretar o generar imágenes más creativas. Cuando se requieren tales elementos visuales, Geo recurre a su compañero de trabajo, DALL-E2, un compañero modelo de IA de OpenAI que genera imágenes a partir de indicaciones textuales.
Si bien las herramientas como DALL-E2 tienen potencial en la profesión de ingeniería geotécnica, es más un artista encargado en esta etapa de desarrollo y tiende a generar cifras que no son útiles para los informes técnicos. La introducción de la tecnología disruptiva, como la que está detrás de Geo P. Tech, tendrá efectos imprevistos en la sociedad y la ciencia, el trabajo y la escuela e, inevitablemente, en la profesión de ingeniería geotécnica. Geo, junto con sus amigos GitHub Copilot, DALL-E2 y varias herramientas de IA por venir, se volverán omnipresentes como colaboradores en nuestras aulas y lugares de trabajo. Depende de nosotros pensar críticamente y emplear estas herramientas de manera adecuada, considerando sus posibilidades, limitaciones y capacidades.
El texto y otros entregables generados por IA deben verificarse y someterse al mismo control de calidad/procedimientos de aseguramiento de la calidad como lo sería cualquier producto generado por humanos, especialmente por profesionales autorizados de acuerdo con las mejores prácticas y métodos de prevención de pérdidas.

Como modelo de lenguaje, Geo (ChatGPT) tiene un razonamiento lógico limitado; solo puede predecir la siguiente palabra que es más probable que aparezca en una oración, según el mensaje. Como tal, Geo a veces es descaradamente incorrecto, y es responsabilidad del usuario evaluar y corregir la salida según sea necesario. ChatGPT está limitado en sus predicciones, como todos los modelos de aprendizaje automático, por los datos de entrenamiento de entrada. Debido a que ChatGPT se entrenó con una gran cantidad de texto de Internet, aprendió los sesgos, los estereotipos y los errores en el texto de entrenamiento y puede reproducir estos errores en sus respuestas.
De manera similar, ChatGPT se entrenó con datos anteriores a 2022; por lo tanto, tiene un conocimiento limitado de los acontecimientos actuales o de nuevas investigaciones en el momento de escribir este artículo. Si bien ChatGPT es el primer modelo de lenguaje de IA ampliamente utilizado, está claro que esta y otras tecnologías de procesamiento de lenguaje se implementarán en aplicaciones populares. En el momento de escribir este artículo, Microsoft y Google han lanzado motores de búsqueda asistidos por GPT, y Microsoft ha anunciado que las versiones futuras de sus productos de Office incorporarán la tecnología GPT (es decir, asistencia de escritura en Word y Outlook, escritura de ecuaciones en Excel y reunión minutos en Teams). La única constante parece ser el rápido desarrollo y adopción de esta tecnología.
En los meses entre escribir este artículo y su publicación, imaginamos que las cosas evolucionarán, pero, en este momento, ChatGPT (o cualquier otro modelo de procesamiento de lenguaje fácil de usar) se presenta principalmente como una herramienta de productividad para la comunidad geotécnica. Puede escribir código con éxito; leer y resumir el texto; aliviar el bloqueo del escritor; y realiza tareas repetitivas basadas en el lenguaje en segundos. Es una herramienta emocionante para nuestra profesión cuando se usa de manera inteligente y con escrutinio. Después de ver las capacidades de ChatGPT, y con su escepticismo picado, le pedimos que reflexione: ¿Cree que los humanos escribieron este artículo?