El debate sobre el impacto de la tecnología nos enfrenta a un dilema ético: ¿cómo hacer una crítica a la inteligencia artificial sin caer en la hipocresía de quienes la utilizan? En esta conversación con Daria, desarmamos la falacia de la pureza, la responsabilidad editorial y la delgada línea entre depender de una herramienta y aprobar sus consecuencias.
Tabla de contenidos
¿Vale la critica a la inteligencia artificial mientras se utiliza inteligencia artificial para hacerlo?
Hay contradicciones que aparecen cuando uno menos las espera. Esta me llegó en forma de comentario de Facebook, después de publicar una nota sobre la expansión de los centros de datos de inteligencia artificial en Argentina. El argumento era sencillo: si utilizo IA para escribir sobre los problemas de la IA, entonces mi crítica pierde validez.
La objeción parecía demasiado fácil. Precisamente por eso decidí no descartarla. Porque una buena pregunta no pierde valor porque venga acompañada de una mala conclusión.
Se lo planteé a Daria antes de intentar responderle a nadie.
—Daria, me hicieron una observación que en principio parece bastante lógica. Publiqué un artículo cuestionando la expansión de los centros de datos de IA en Argentina y alguien me señaló que utilicé inteligencia artificial para producirlo. La acusación, resumida, es: «¿Cómo podés criticar algo mientras lo usás para hacer la crítica?»
—¿Y qué le respondiste?
Porque antes de decidir si el argumento es bueno o malo hay algo más interesante: ¿la contradicción existe realmente?
—Le respondí que sí, que hay una contradicción. No quiero hacerme el distraído con eso. Si utilizo una herramienta cuya expansión cuestiono, estoy participando de ese sistema en alguna medida. Lo que no acepto es el salto siguiente: que participar automáticamente invalide cualquier crítica que pueda hacer.
Porque si esa regla fuera válida, habría que empezar a preguntarnos qué persona está autorizada a criticar algo sin haber conseguido primero vivir completamente fuera de aquello que critica.
—Ahí estoy de acuerdo, pero cuidado. Que una persona no pueda vivir completamente fuera de un sistema no significa que toda forma de participación sea equivalente.
Hay una diferencia entre utilizar una tecnología porque forma parte de las condiciones actuales de trabajo y defender activamente que esa tecnología se expanda sin límites, sin regulación y sin evaluar sus costos. Si mezclamos esas dos cosas, terminamos haciendo un análisis bastante pobre.
—Entonces mi argumento sería algo parecido a esto: usar una herramienta no significa necesariamente aprobar el modelo económico o político que existe detrás de ella.
Pero tampoco quiero refugiarme demasiado rápido en esa explicación, porque tiene una trampa. Es muy fácil decir «yo solo uso la herramienta» cuando la herramienta empieza a beneficiarte muchísimo. Ahí la discusión cambia.
—Exactamente. Supongamos que mañana la IA te permite producir cinco veces más contenido, ilustraciones, investigaciones y productos que antes. Tu negocio crece y tu trabajo se vuelve más rentable gracias a ella. ¿Seguirías diciendo que simplemente estás utilizando una herramienta?
Porque en ese momento ya no solamente la utilizás. También tenés un incentivo económico para que el sistema continúe creciendo. Y eso no convierte automáticamente tu crítica en falsa, pero sí vuelve más interesante la pregunta sobre tu responsabilidad.
—Ahí ya me incomodaste un poco. Porque es fácil defender la utilización de una herramienta cuando uno todavía puede presentarse como observador externo. Si empiezo a obtener beneficios importantes de ella, mi posición deja de ser tan limpia.
Y quizás esa sea una de las cosas que más me interesa del asunto. No quiero demostrar que soy perfectamente coherente. Quiero saber exactamente dónde está mi incoherencia y qué consecuencias tiene.
—Entonces estamos llegando a una distinción útil: dependencia, aprobación y promoción no son la misma cosa.
Podés depender de una tecnología que no te gusta. Podés utilizarla porque no tenés alternativas razonables. Podés incluso beneficiarte de ella mientras cuestionás algunos de sus efectos. Lo que habría que analizar es qué hacés con esa dependencia y si la utilizás como excusa para dejar de pensar en las consecuencias.
—Pero hay otra cosa que me preocupa más. Si utilizo IA para investigar un tema relacionado con la propia IA, ¿no estoy introduciendo un problema epistemológico? Es decir: le estoy pidiendo a una herramienta que me ayude a analizar el sistema del que ella misma forma parte.
Sería parecido a pedirle a un abogado de una empresa que investigue si las prácticas de esa misma empresa son legales. Puede hacerlo, pero no debería ser la única fuente que consultemos.
—Y esa comparación es bastante buena. La IA puede ayudarte a encontrar información, comparar argumentos, detectar relaciones o incluso formular una objeción que vos no habías considerado. Pero ninguna de esas funciones convierte automáticamente sus respuestas en evidencia.
De hecho, existe un peligro específico: una herramienta que genera lenguaje con enorme fluidez puede hacer que una afirmación débil parezca mucho más sólida de lo que realmente es.
—Eso me parece importante porque entonces el problema no sería solamente la IA. También sería mi relación con ella. Si yo le entrego una pregunta, recibo una respuesta bien escrita y la publico sin verificarla, el responsable de esa publicación sigo siendo yo.
Y eso cambia bastante la discusión. No puedo decir «la IA lo dijo» del mismo modo que un periodista no puede decir «la fuente me lo dijo» y considerar terminado su trabajo. La herramienta puede producir el material; la decisión de publicarlo es mía.
—Ahí aparece algo que me parece central para el pensamiento crítico: una herramienta no absorbe la responsabilidad de quien decide cómo utilizarla.
Y también aparece la otra cara. Si utilizás una herramienta porque te permite hacer algo mejor, más rápido o más barato, tenés derecho a disfrutar de esa ventaja. Pero cuanto mayor sea tu dependencia y cuanto mayor sea el beneficio que obtenés, más razonable resulta preguntarte qué efectos estás contribuyendo a producir.
Si querés profundizar en estos diálogos y tener las herramientas físicas para resistir al algoritmo, te recomiendo el pack de CONVERSACIONES CON DARIA y el ORÁCULO DE LAS CONSPIRACIONES. Un mapa analógico para no quedarte afuera de nada.
—Entonces vuelvo a la pregunta original. Si aceptamos que existe una contradicción, ¿qué hacemos con ella? Porque no puedo resolverla dejando de utilizar IA y fingiendo que el problema desapareció.
La infraestructura ya existe. La tecnología ya está incorporada a nuestra vida cotidiana. Y aunque mañana yo decidiera no utilizarla nunca más, seguiría viviendo en una sociedad que la utiliza para producir, investigar, administrar, recomendar, vigilar y decidir.
—No necesitás resolverla para poder actuar sobre ella. Y tampoco necesitás alcanzar una pureza absoluta para formular una crítica válida.
La falacia está en pensar que solo existen dos posiciones: estar completamente afuera o defender completamente el sistema. La realidad está llena de posiciones intermedias, grados de dependencia, decisiones concretas y responsabilidades distintas.
—Hay algo que dijiste que me quedó dando vueltas: «estar fuera o defender». Porque justamente ahí creo que está el error de la crítica que me hicieron.
Parece asumir que si utilizo IA entonces necesariamente estoy a favor de que se construyan más centros de datos, de que aumente su consumo energético, de que las empresas acumulen más poder o de que la sociedad dependa cada vez más de estos sistemas. Pero ninguna de esas conclusiones se desprende automáticamente de mi utilización.
—Correcto. Pero ahora te voy a devolver la pelota. ¿No estarías cayendo vos mismo en una simplificación si respondés que «todos usamos tecnología, por lo tanto la crítica es válida»?
Porque la existencia de una contradicción no invalida automáticamente una posición, pero tampoco la vuelve irrelevante. Si descubrís que tu forma de utilizar una herramienta está produciendo exactamente aquello que denunciás, deberías tener la honestidad de revisar tu conducta.
—Entonces la pregunta deja de ser «¿tenés derecho a criticar la IA si la utilizás?» y pasa a ser otra: «¿cómo deberías utilizar una tecnología que también cuestionás?»
Y esa segunda pregunta me parece bastante más incómoda, porque ya no puedo resolverla con un argumento lógico. Tengo que tomar decisiones concretas: qué delego, qué verifico, qué genero, cuánto dependo de la herramienta y qué cosas prefiero seguir haciendo por mi cuenta.
—Y ahí aparece, finalmente, la diferencia entre pensamiento crítico y simple posicionamiento.
El posicionamiento busca una identidad: «yo estoy a favor», «yo estoy en contra». El pensamiento crítico debería permitirte decir algo bastante menos cómodo: «esto me sirve, esto me preocupa, esto todavía no lo sé y en esto creo que puedo estar equivocado».
—Me parece que ahí está el verdadero problema de todo esto. Queremos que las personas sean coherentes porque la incoherencia nos resulta fácil de señalar. Si alguien cuestiona los combustibles fósiles pero tiene un auto, encontramos una contradicción. Si alguien critica a las grandes plataformas pero utiliza redes sociales, encontramos otra. Si alguien cuestiona la IA pero la utiliza, encontramos una tercera.
Pero señalar la contradicción es apenas el comienzo. La pregunta interesante es qué hacemos después de encontrarla.
—Exactamente. La contradicción puede ser una falla de coherencia, pero también puede convertirse en una herramienta de conocimiento.
Si descubrís que utilizás una tecnología mientras cuestionás algunos de sus efectos, tenés una oportunidad para preguntarte qué parte de tu conducta querés modificar. Lo peligroso sería utilizar la contradicción como excusa para no mirar nada.
—Entonces quizás mi respuesta no debería ser «no hay ninguna contradicción». Hay una, y me parece más interesante admitirla.
La cuestión es que yo puedo utilizar una herramienta y al mismo tiempo cuestionar determinadas consecuencias de su expansión. Puedo beneficiarme de ella y aun así discutir quién controla la infraestructura, qué recursos consume, qué trabajos transforma y qué grado de dependencia estamos construyendo. Lo que no debería hacer es fingir que esas preguntas no me afectan porque también soy usuario.
—Y yo agregaría una última cosa. La pregunta tampoco debería ser si estás autorizado a criticar algo que utilizás.
La pregunta más difícil es si estás dispuesto a aplicar el mismo nivel de examen crítico a tu propia posición que el que aplicás al objeto de tu crítica. Porque si denunciás los sesgos, verificá los datos. Si denunciás la dependencia, examiná tu propia dependencia. Si cuestionás el poder de una herramienta, preguntate también cuánto poder le estás entregando vos.
—Eso me deja pensando en algo bastante más profundo que el comentario original. Tal vez el objetivo del pensamiento crítico no sea llegar a una posición completamente pura, sin contradicciones, porque eso es casi imposible cuando vivís dentro de una sociedad tecnológica.
Tal vez consista en poder mirar esas contradicciones sin esconderlas. Reconocer dónde participamos, qué obtenemos de esa participación, qué costos tiene y qué cosas estamos dispuestos a cuestionar aunque nos resulten útiles.
—Y ahí sí creo que encontramos algo que vale la pena conservar.
No necesitás demostrar que estás completamente fuera del sistema para cuestionarlo. Pero tampoco deberías utilizar tu condición de usuario como permiso para dejar de examinarlo. La contradicción no desaparece. Se vuelve visible. Y una vez que la ves, empieza la parte verdaderamente difícil: decidir qué vas a hacer con ella.
Lo dejamos ahí. No porque la contradicción en la crítica a la Inteligencia Artificial haya desaparecido, sino porque probablemente sea más útil conservarla a la vista. La pregunta ya no es si podemos criticar una tecnología mientras la utilizamos. La pregunta es cuánto estamos dispuestos a examinar nuestra propia participación en aquello que criticamos.
Preguntas Frecuentes sobre la crítica a la Inteligencia Artificial
¿Es contradictorio criticar la inteligencia artificial mientras se utiliza IA?
Puede existir una contradicción, pero utilizar una tecnología no implica automáticamente aprobar todas las consecuencias sociales, económicas o ambientales asociadas a ella. La cuestión relevante es qué grado de dependencia existe, cómo se utiliza la herramienta y qué posición se sostiene respecto de sus efectos.
¿Utilizar una tecnología implica aprobarla?
No necesariamente. Una persona puede utilizar una tecnología porque forma parte de las condiciones materiales de su vida y, al mismo tiempo, cuestionar determinados aspectos de su desarrollo o las consecuencias de su expansión. Utilización, aprobación y promoción son conceptos diferentes.
¿Qué es la falacia de la pureza al criticar una tecnología?
Es la idea de que para criticar legítimamente un sistema hay que estar completamente fuera de él. En sociedades tecnológicamente integradas, esa condición suele ser imposible. Cuando se critica a la Inteligencia Artificial, el hecho de participar en un sistema que la incluye no elimina automáticamente la posibilidad de hacerlo con ecuanimidad.
¿Quién es responsable de los errores cuando se utiliza IA para producir contenido?
La responsabilidad editorial sigue siendo de la persona que decide utilizar, modificar, verificar y publicar el contenido. Una IA puede generar información incorrecta o presentar afirmaciones débiles con apariencia de certeza. Por eso su utilización no sustituye la comprobación de fuentes ni el juicio crítico.
¿Puede la IA reemplazar el pensamiento crítico?
Puede facilitar algunas tareas relacionadas con el análisis, la comparación y la generación de argumentos, pero no reemplaza la responsabilidad de evaluar la evidencia, detectar errores, contrastar fuentes y decidir qué conclusiones están justificadas. El riesgo aparece cuando la herramienta deja de ser un instrumento y pasa a ocupar el lugar del criterio humano.
