Ahora la IA quiere envenenar a la gente, así que es divertido

Como si la pesadilla que es la no ficción escrita por IA no fuera ya suficientemente mala, ahora hemos llegado a un punto en el que ha pasado de ser frustrante (tomos neopaganos escritos por IA llenos de información errónea agresiva sobre el mito y la historia) a potencialmente mortal, con guías producidas por IA para buscar plantas y hongos silvestres. Sí, eso realmente no es algo que quieras que sea equivalente a un generador de palabras aleatorio. No, a menos que quieras que la gente realmente muera.

Los escritores, en particular los de prensa pequeña y los escritores independientes en campos especializados, han estado tratando de abordar el problema de los libros generados por IA desde hace algún tiempo. No sólo están ahogando a los autores humanos reales por su gran volumen y el efecto que eso tiene en el algoritmo, sino porque la información que contienen proviene básicamente de fuentes colectivas y luego se mezcla aún más en el proceso de “crear” algo “nuevo”. El mercado está siendo inundado con un montón de información errónea que hace que las peores tonterías del pasado, las peor investigadas, empiecen a parecer plausibles. Ya es bastante malo cuando se trata de temas como religión e historia (todos hemos visto adónde conduce la información errónea sobre esos temas), pero con algo como la búsqueda de alimento, donde identificar correctamente una planta es una cuestión de vida o muerte, de repente es mucho más grave. problema.

Cuando se trata de identificar libros como generados por IA, puede resultar difícil estar absolutamente seguro. Siempre es posible que de alguna manera te hayas topado con un autor sin presencia alguna en Internet, ni siquiera en las redes sociales. Alguien que resulta ser un escritor prolífico y terrible, cuyo trabajo es tan preciso como el de un estudiante universitario drogado que espera sobrevivir simplemente apareciendo y entregando algo. Cuyos libros tienen un montón de críticas de cinco estrellas sospechosamente positivas. que no coinciden del todo con el contenido real del libro, y luego un puñado de calificaciones de una o dos estrellas escritas por personas reales que quieren saber qué diablos es esto. Posible, pero extremadamente improbable.

Aún así, es difícil demostrar que es negativo, especialmente si se tiene en cuenta el uso de seudónimos o el hecho de que ahora se publican libros de IA, sin consentimiento, con los nombres e identidades reales de los autores adjuntos. La situación es un desastre y todo lo que tenemos son las mejores conjeturas, pero algunas de esas conjeturas son bastante condenatorias cuando se junta toda la evidencia.

Fueron los miembros de comunidades de búsqueda de comida en línea en Facebook, Reddit y otras plataformas de redes sociales, quienes dieron la alarma sobre estas guías definitivamente terribles, casi con certeza generadas por IA, para encontrar y procesar alimentos silvestres.

Los libros en cuestión comenzaron a aparecer en Amazon alrededor de 2022, todos con títulos y portadas muy similares, cada uno de los cuales promete ser una variante de la “biblia” definitiva sobre búsqueda de alimento o la única guía de alimentos silvestres que alguna vez necesitaría. A pesar de estas grandiosas afirmaciones, la información contenida en los libros es, en el mejor de los casos, inadecuada y, en el peor, extraña o engañosa.

Uno de esos libros incluye entradas sobre brócoli, coles de Bruselas, naranjas y limones, todas plantas domesticadas que sólo puedes "buscar" asaltando el jardín de otra persona, y definitivamente no son algo que puedas encontrar creciendo de forma silvestre. Faltan fotografías, esenciales para cualquier guía sobre plantas silvestres y comestibles, en blanco y negro, o carecen de detalles suficientes para ser de alguna utilidad, y las reseñas se dividen entre las de cinco estrellas sin sentido y las altamente críticas, una o dos veces. Dos estrellas exige saber por qué el contenido del libro no coincide con las afirmaciones de la portada.

Lo más condenatorio es el hecho de que los supuestos autores de estos libros parecen no tener presencia en línea alguna, incluso una búsqueda inversa de imágenes de las fotografías de sus autores no arrojó nada, lo que sugiere que estas “fotografías” probablemente también sean generadas por IA.

Para un recolector experimentado, libros como este son fáciles de descartar, pero, por supuesto, ese tampoco es el público objetivo. Libros como este están dirigidos a principiantes y el problema es que no sabes lo que no sabes. Si bien algunos son obviamente más inútiles que otros (el libro sobre cómo buscar su propio brócoli y el que tiene una lista de recetas pero no le vienen a la mente instrucciones reales sobre cómo prepararlas), otros serán más difíciles de detectar para las personas que simplemente empezando, y ahí es donde las cosas se vuelven activamente peligrosas.

Muchas plantas silvestres son mortales y, como la cicuta de agua, se parecen mucho a las inofensivas comestibles. Realmente tienes que saber lo que estás haciendo si vas a empezar a buscar comida, y cualquier información errónea que se difunda, especialmente con afirmaciones de experiencia detrás, tiene el potencial de matar a alguien.

La búsqueda de comida no es el único pasatiempo potencialmente mortal que probablemente se verá afectado por estas guías escritas por IA. Es común en muchos círculos artesanales que los aficionados y profesionales expertos creen manuales autoeditados para ganar un poco de dinero extra, y aunque una guía de IA para crochet probablemente sea simplemente una molestia, los libros de IA sobre electrónica o metalistería tienen la ventaja de potencial para ser extremadamente peligroso. Todo lo que se necesita es omitir un paso (no conectar a tierra algo adecuadamente, no secar completamente la arcilla metálica antes de cocinar) y alguien puede terminar muerto o gravemente herido. Y como ocurre con los nuevos en la búsqueda de comida, no sabes lo que no sabes.

Estamos acostumbrados a poder asumir que cualquier cosa escrita en un libro es probablemente, si no 100% precisa, al menos segura. Se supone que una editorial adecuada debe asegurarse de ello antes de salir a imprenta, aunque sólo sea porque nadie quiere una demanda. Esta no ha sido una suposición segura desde hace aproximadamente una década gracias al auge de la autoedición impulsado por Amazon, pero la proliferación de obras producidas por IA ha exacerbado el problema al extremo, y si no se hace algo para mitigarlo las cosas sólo van a empeorar.

Esto no significa que no podamos confiar en nada de lo que leemos, o que sólo podamos confiar en las grandes editoriales para obtener información valiosa. Sólo tenemos que ser mucho más cautelosos al seleccionar nuestras fuentes, y una de las formas clave de hacerlo, quizás irónicamente, es a través de las redes sociales. Los autores y expertos independientes, a menudo para su disgusto, han tenido que mantener una presencia activa en las redes sociales desde hace algún tiempo para establecer su experiencia y conseguir seguidores para su trabajo.

Antes de comprar algo en Amazon o en un mercado similar, es importante investigar a fondo al autor, no solo para asegurarse de que sea una persona real (y en realidad el autor detrás del libro) ahora gracias a la IA, sino también para asegurarse de que sepa lo que hace. Estamos hablando de que sean respetados por sus pares y que no impulsen la pseudociencia o la desinformación. Especialmente cuando es algo que conlleva un alto potencial de matarte o herirte si lo haces mal.

En cuanto a la avalancha de libros sobre inteligencia artificial que estamos viendo en Amazon en este momento, eso sólo se detendrá si Amazon decide hacer algo al respecto. Lo cual es poco probable a menos que deje de ser rentable para ellos o que una acción legal los obligue a actuar. Es necesario hacer algo con respecto al trabajo generado por IA, preferiblemente antes de que envenene a alguien o provoque quemaduras de tercer grado; la única pregunta es cómo nos aseguraremos de que esto suceda.

(imagen destacada: Zorro)

¿Tiene algún consejo que debamos saber? [correo electrónico protegido]

Siobhan Ball (ella/ella) es una escritora colaboradora que cubre noticias, temas queer, política y Star Wars. Ex historiadora y archivera, hizo sus primeras incursiones en el periodismo escribiendo varios artículos de historia queer c. 2016 y las cosas se dispararon a partir de ahí. Cuando no está trabajando, sigue escribiendo, con varias novelas y un libro sobre mitos irlandeses en camino, además de desarrollar sus habilidades como joyera.