Proyectos como Home Assistant y Jellyfin ya tuvieron que redactar políticas específicas para lidiar con envíos de código hechos con chatbots y sin revisión humana adecuada. (Fuente: XDA Developers)
La inteligencia artificial, en especial los modelos de lenguaje (LLM), viene creciendo rápido en alcance, y aunque son herramientas muy útiles cuando se usan de forma apropiada, también empezaron a generar problemas serios para el desarrollo de software. Los LLM pueden escribir estructuras de código extensas: basta con pedirle a un chatbot que arme un sitio web completo con sistema de login, integración de pagos y gestión de cuentas, y en minutos se obtiene algo que parece una aplicación lista para usar.
El problema aparece cuando alguien sin conocimientos de programación le pide a un LLM que resuelva algo y después envía esos cambios a un proyecto de código abierto sin revisarlos. La Open Home Foundation, responsable de Home Assistant, tuvo tantos problemas con este tipo de envíos que terminó redactando una política integral sobre el uso de IA: la organización aclara que no le molesta que se usen herramientas de IA para redactar, pero pide que no se publique contenido sin revisar en su nombre, que las respuestas se mantengan al mínimo necesario para comunicar la intención, y advierte que pueden ocultar comentarios que consideren generados por IA sin revisión.
Jellyfin, uno de los paquetes de streaming multimedia más populares, enfrenta un problema similar. Según sus lineamientos oficiales sobre el uso de LLM, los desarrolladores y voluntarios de la comunidad esperan recibir la opinión genuina del autor y no algo generado directamente por un chatbot, incluso cuando lo que aporta puede ser útil para encontrar y solucionar errores. Copiar y pegar una respuesta de un LLM le toma segundos a quien lo hace, pero el mantenedor del proyecto tiene que dedicar mucho más esfuerzo para responder, investigar y validar si la IA está alucinando.
El problema no es exclusivo del código abierto: incluso Google enfrenta dificultades con envíos generados por IA. La propia compañía usa agentes basados en LLM para ayudar en el desarrollo de Chrome y la detección de errores y vulnerabilidades, pero después los desarrolladores dedican tiempo a revisar esos parches antes de avanzar, y eso recién después de que otros agentes ya verificaron cruzadamente lo que un primer agente generó.
Antes de la explosión de los chatbots, escribir código era la parte difícil de contribuir a un proyecto de código abierto: detectar un problema era relativamente sencillo, pero escribir la solución era otra historia. Ahora, prácticamente cualquiera puede generar código, y no siempre queda claro si fue escrito por una persona o generado con un LLM. Una simple corrección de un error puede terminar convertida en una solución de varios archivos, mucho más compleja de lo que en realidad se necesitaba: para la IA, el problema quedó resuelto, pero para quien mantiene el proyecto, eso generó un desorden. La IA no es la responsable directa de que los mantenedores tengan demasiado código para revisar, pero sí expuso una asimetría que ya existía: generar código se está volviendo extraordinariamente barato, mientras que entenderlo, revisarlo, probarlo y mantenerlo todavía requiere tiempo y experiencia humana.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.