ProtopIA: MIRADAS DE FUTURO

El cierre de la jornada ProtopIA llevada a cabo en el edificio BBK Kuna el pasado 30 de octubre estuvo marcado por una dinámica colaborativa de alto impacto, el futurathon. Este ejercicio participativo reunió a empresas líderes de diversos sectores, expertos en innovación y agentes del ecosistema de BBK Kuna para analizar los retos y oportunidades que la adopción de la IA plantea en el futuro del trabajo y en general en la sociedad vasca.

El objetivo de la dinámica que acogió a perfiles muy diversos era reflexionar, imaginar y discutir sobre el impacto a nivel ético, responsable y humano de las inteligencias artificiales generativas en el futuro del trabajo y en las organizaciones.

Durante la actividad se trabajaron tres escenarios distintos de futuro, cada escenario plantea un contexto posible para la evolución del trabajo en las organizaciones. Los grupos participantes analizaron estos escenarios identificando sus principales impactos, tanto positivos como negativos, con un enfoque en la integración responsable, ética y humana de la IA en el entorno laboral.

El resultado fue un repositorio de reflexiones prácticas y provocadoras que servirán como punto de partida para nuevas conversaciones estratégicas y procesos de transformación organizacional. Te animamos a ser ahora tú en tu empresa facilitador de este pensamiento de futuros y para ello compartimos las herramientas utilizadas. Estos son los 3 escenarios trabajados y algunas de las reflexiones de los equipos:

ESCENARIO 1: “DECISIONES QUE NADIE FIRMÓ”

¿QUÉ SIGNIFICA “SER RESPONSABLE” EN UNA ORGANIZACIÓN CUANDO LAS DECISIONES CLAVE LAS TOMA UN AGENTE DIGITAL?

CONTEXTO

Bizkaia, 2030. El trabajo ya no se define solo por lo que hacemos, sino por cómo tomamos las decisiones. Las inteligencias artificiales generativas se han integrado como un miembro más de los equipos. No solo apoyan, también deciden: calculan presupuestos, seleccionan proveedores, ajustan precios, gestionan personal o priorizan clientes. Todo parece funcionar más rápido y con mayor eficiencia, pero también aparecen dilemas: ¿hasta qué punto nuestra búsqueda de productividad puede volverse una amenaza para nuestro sentido de responsabilidad?

VIAJE AL FUTURO 1: “EL DESPIDO AUTOMÁTICO”

Soy Nahia, tengo 36 años y soy supervisora en una planta de envasado. La semana pasada una compañera recibió un correo de despido firmado automáticamente por el sistema. Según la IA, su rendimiento era insuficiente. Lo más desconcertante es que rápidamente, su puesto lo cubrió un agente digital colaborativo, lo cual redujo accidentes y aumentó la línea un 20% en productividad. Ganamos en seguridad y rapidez, pero también perdimos confianza: ¿cómo gestionamos un error cuando detrás de la decisión no hay un rostro humano?

¿Qué impacto tendría para una organización que las decisiones de recursos humanos dependan directamente de una IA?

VIAJE AL FUTURO 2: “EL CONTRATO INESPERADO”

Soy Aitor, tengo 50 años y soy director de compras en una cooperativa agrícola. Al revisar el sistema encontré un contrato ya firmado: tres años con un proveedor internacional. El acuerdo asegura precios bajos y estabilidad en el suministro, pero también deja fuera a productores locales con los que trabajábamos desde hace años. Algunos celebraron la efectividad, otros lo vivieron como una traición. Ahora me pregunto, ¿será posible que la IA logre establecer el mismo vínculo laboral y confianza con proveedores como nosotros?

¿Qué impacto puede tener en la cadena de valor de una organización que contratos y acuerdos con terceros sean definidos automáticamente por una IA?

VIAJE AL FUTURO 3: “GANANCIA SOBRE PRINCIPIOS”

Soy Mikel, tengo 43 años y soy gerente de un restaurante muy reconocido en Bizkaia. Hace poco empezamos a gestionar el día a día con un agente de IA y, al principio, fue maravilloso: las reservas dejaron de solaparse, aumentaron los comensales en un 15% y los menús se adaptan solos según la disponibilidad de ingredientes. Pero la semana pasada varios clientes se quejaron de que un plato clásico no sabía igual. Descubrimos que la IA había sustituido algunos ingredientes por opciones más rentables sin avisar. Nuestro chef, indignado, me preguntó: “¿Quién está cocinando realmente, nosotros o el sistema?”

¿Qué impacto tendría que una IA altere nuestra relación con clientes al tomar decisiones en nombre de la rentabilidad y en contra de la creatividad?

IMPACTOS POSITIVOS

• La IA permite ahorrar tiempo y optimizar procesos en tareas operativas y de gestión, aumentando la productividad y reduciendo errores humanos. Al automatizar decisiones, se gana rapidez en la cadena de valor y capacidad para responder de forma ágil a los cambios del mercado.

• Favorece una mayor transparencia y trazabilidad en las operaciones, facilitando auditorías, control de calidad y cumplimiento normativo.

• Introduce objetividad en la toma de decisiones, reduciendo sesgos personales y promoviendo criterios más medibles y basados en datos.

• Permite mejorar la eficiencia económica de las organizaciones, optimizando recursos, costes y tiempos sin comprometer la calidad del producto o servicio.

• Crea oportunidades para incluir a nuevos actores (como pequeños proveedores o startups) que pueden competir en igualdad de condiciones si cumplen los criterios definidos por los algoritmos.

• Los sistemas inteligentes pueden convertirse en fuentes de aprendizaje continuo, ayudando a detectar patrones, corregir ineficiencias y tomar decisiones estratégicas más informadas.

La estandarización de procesos aporta mayor estabilidad y escalabilidad organizacional, permitiendo reproducir buenas prácticas en distintos contextos.

IMPACTOS NEGATIVOS

• El uso extensivo de la IA puede generar deshumanización en la toma de decisiones, diluyendo la empatía, la intuición y el sentido ético que guían la acción humana.

• La pérdida de relaciones personales y de confianza entre trabajadores, proveedores y clientes amenaza la cohesión social y los vínculos de largo plazo.

• Excesiva estandarización de procesos y productos, lo que puede reducir la creatividad, la diversidad cultural y la innovación.

• Las decisiones algorítmicas corren el riesgo de romper con los valores y el propósito de las organizaciones si solo se prioriza la eficiencia o la rentabilidad.

• La opacidad de los sistemas (“cajas negras”) puede dificultar la rendición de cuentas y el derecho a cuestionar o corregir una decisión.

• El personal puede experimentar desmotivación y pérdida de sentido, al sentir que su papel se reduce a validar lo que decide un sistema.

• Se corre el riesgo de traspasar la responsabilidad moral y legal a la IA, generando vacíos en temas de derechos laborales o justicia organizacional.

El trabajo puede transformarse en una actividad de monitoreo pasivo, desconectada de la experiencia humana y del propósito colectivo.

ESCENARIO 2: “ORQUESTADORES DE INTELIGENCIAS HUMANAS Y ARTIFICIALES”

¿CÓMO CAMBIA EL VALOR DEL TRABAJO CUANDO IMPORTA MÁS SABER PEDIR QUE SABER HACER?

CONTEXTO

Bizkaia, 2030. Trabajamos codo a codo con inteligencias artificiales generativas que ya no son solo herramientas, sino un miembro más del equipo. Preparan informes, gestionan tareas, proponen soluciones y hasta toman decisiones. El valor ya no está en “saber hacer”, sino en saber pedir con precisión, revisar con criterio y decidir con visión. Los títulos académicos pesan menos, y lo que marca la diferencia es la capacidad de orquestar inteligencias humanas y artificiales.

VIAJE AL FUTURO 1: “DE SABER HACER, A SABER PEDIR”

Soy Maitane, tengo 34 años y soy analista de datos en una cadena de supermercados. Durante muchos años, pasaba horas armando reportes y gráficas de ventas. Era mi mayor fortaleza y algo por lo que me reconocían ya que sabía comunicar muy bien, era mi sello personal. Hoy sin embargo, la IA me lo hace en minutos. Sin pensarlo mucho, le explico lo que necesito y en breve lo tengo. He ganado mucho tiempo para aportar ideas estratégicas, pero siento que lo que me hacía valiosa ya no pesa tanto y pienso, ¿qué significa mi rol si lo que hacía mejor que nadie ahora lo hace una máquina?

¿Qué impacto tiene en la motivación y en la identidad profesional que la IA sustituya tareas en las que antes éramos expertos?

VIAJE AL FUTURO 2:  “LOS PUNTOS CIEGOS DE LA IA”

Soy Arrate, tengo 48 años y soy directora de recursos humanos en una startup de carne vegetal. En un comité la IA nos presentó tres escenarios de mercado impecables: márgenes calculados, proyecciones afinadas, riesgos económicos previstos, pero ninguno contemplaba el impacto en la reputación si elegíamos la opción más rentable. Fui yo quien levantó la mano para recordarlo. Me alegré de que mi criterio contara, pero pensé: ¿qué pasará cuando la voz humana que trae otras dimensiones deje de ser escuchada?

¿Qué impacto tendría en la organización confiar ciegamente en escenarios técnicamente correctos pero socialmente incompletos?

VIAJE AL FUTURO 3: “CUANDO LA BRECHA SE AMPLÍA”

Soy Ander, tengo 23 años y soy del área de producto de una empresa láctea. Al departamento se nos pidió investigar para un nuevo desarrollo. Yo, confiado en mis habilidades con IA, armé un informe sólido en pocos días. La dirección valoró mi trabajo y me ascendió. Mi compañero Jon en cambio, con más experiencia y años en la empresa, se limitó a usar las herramientas tradicionales y tardó más de lo esperado. A pesar de la buena calidad de su entrega se sintió frustrado. Me pregunto, ¿qué pasa con la colaboración si el dominio de la IA abre una brecha entre generaciones?

¿Qué impacto tendría para la cultura organizacional que el dominio de la IA pese más que la experiencia acumulada?

IMPACTOS POSITIVOS

• La incorporación de la IA favorece una mayor agilidad y aprendizaje continuo, permitiendo que los equipos experimenten, iteren y tomen decisiones con más información y menos fricción.

• Se fomenta una colaboración intergeneracional más rica, en la que la juventud aporta dominio tecnológico y las generaciones con experiencia contribuyen con conocimiento contextual, valores y criterio.

• Impulsa una nueva cultura de formación y re-skilling, donde la capacidad de aprender y adaptarse vale más que el conocimiento técnico estático.

• La IA puede diversificar el liderazgo y democratizar el acceso al poder decisional, reduciendo jerarquías y favoreciendo estructuras más horizontales.

• Ofrece la oportunidad de redefinir el propósito organizacional, integrando los valores humanos con el potencial tecnológico.

• Genera nuevos perfiles profesionales, como auditores éticos o supervisores de IA, que aseguren un uso responsable y transparente de los sistemas.

• Permite optimizar el tiempo de trabajo, liberando espacio para la reflexión estratégica, la creatividad o la vida personal.

• Favorece la innovación y el desarrollo profesional, al obligar a las personas a replantearse su rol, aprender nuevas habilidades y asumir tareas de mayor valor añadido.

Puede contribuir a humanizar el trabajo al reducir tareas repetitivas, promoviendo entornos más centrados en el desarrollo personal y la colaboración significativa.

IMPACTOS NEGATIVOS

• La brecha entre quienes dominan la IA y quienes no lo hacen puede generar desigualdades internas y conflictos culturales o generacionales.

• Existe riesgo de pérdida del componente humano en la toma de decisiones, reemplazando el criterio ético y contextual por lógicas técnicas o de optimización.

• Se pueden concentrar las decisiones en pocos actores, generando nuevas formas de poder o dependencia tecnológica.

• Falta de transparencia y rendición de cuentas en los criterios que utiliza la IA para decidir, lo que erosiona la confianza interna.

• Las estructuras jerárquicas tradicionales pueden volverse obsoletas, provocando confusión, resistencias y tensiones internas.

• Los sistemas automatizados pueden reproducir o amplificar sesgos sociales, excluyendo a colectivos vulnerables o reforzando desigualdades.

• Surgen desequilibrios emocionales y laborales, como miedo a la sustitución, pérdida de identidad profesional o estrés ante la adaptación constante.

• En organizaciones sin propósito o sin liderazgo humano claro, la IA puede acentuar la desmotivación y la pérdida de sentido colectivo.

El énfasis en la autonomía individual puede derivar en aislamiento laboral, debilitando los lazos de cooperación y aprendizaje compartido.

ESCENARIO 3: “SUPERHUMANOS DISOCIADOS”

¿QUÉ DEJAMOS ATRÁS CUANDO PRIORIZAMOS LA EFICIENCIA INDIVIDUAL POR ENCIMA DE LAS CONEXIONES HUMANAS?

CONTEXTO

Bizkaia, 2030. Las IAs generativas son parte estructural del trabajo, como un nuevo “Office”, siempre encendido. Somos más rápidos, resolvemos problemas en minutos y la autonomía personal nunca ha sido tan grande. Sin embargo, esta eficiencia está centrada en el rendimiento individual. Los equipos funcionan, pero están más distantes. Y fuera del trabajo, la tecnología sigue ganando terreno y las personas cada vez gestionan más la vida en el mundo digital que en el presencial. La línea entre lo personal y lo laboral es difusa, y aparece un sentimiento de aislamiento no deseado.

VIAJE AL FUTURO 1: “MÁS EFICIENTES, MENOS CONECTADOS”

Soy Iratxe, tengo 34 años y soy responsable de logística en una cooperativa agroalimentaria. Gracias a la IA coordino rutas, transportes y costes en minutos, y los indicadores de eficiencia nunca habían estado tan altos. Sin embargo, apenas hablo con mis compañeros: cada uno está inmerso en su propio flujo optimizado. No recuerdo la última vez que tomé un café o tuve una charla de pasillo. La empresa nunca había funcionado tan bien y al mismo tiempo, yo nunca me había sentido tan sola en el trabajo. A veces me pregunto si tanta eficiencia no está dejando en segundo plano lo que nos hacía sentir parte de un mismo equipo.

¿Qué impacto tendría para el trabajo que la eficiencia desplace los espacios de relación y apoyo humano?

VIAJE AL FUTURO 2: “AUTONOMÍA QUE AÍSLA”

Soy Josefa, tengo 58 años y soy propietaria de una explotación agrícola. La IA controla el riego, predice plagas y optimiza las cosechas, y la finca funciona de maravilla, pero ahora estoy sola. Mi hijo se quedó en la ciudad y ya no quiere continuar con la explotación y además, me he distanciado de otros agricultores con los que antes compartía consejos y problemas. La autonomía me da resultados y tranquilidad económica, pero cada vez me pesa más el aislamiento.

¿Cómo puede la autonomía que brinda la IA impactar la colaboración y los lazos humanos?

VIAJE AL FUTURO 3: “LO QUE LA IA NO ESCUCHA”

Soy Maialen, tengo 42 años y soy responsable de sostenibilidad en una empresa de carne biológica. Antes recorría caseríos, hablaba con ganaderos y escuchaba sus preocupaciones de primera mano; ese contacto me hacía sentir que mi trabajo tenía un propósito real. Ahora es la IA quien analiza los datos y selecciona a los proveedores “más eficientes”. Los informes son impecables y las métricas están siempre a la vista, pero paso mis días frente a una pantalla, revisando cifras exactas pero sin rostros ni voces. El proveedor más eficiente o económico no necesariamente es el más valioso. ¿Es la lectura humana todavía necesaria en un mundo cada vez más automatizado?

¿Qué impacto tendría para las organizaciones si las relaciones humanas con los actores quedaran en segundo plano frente a la IA?

IMPACTOS POSITIVOS

La IA facilita el aprendizaje continuo y permite que las personas desarrollen nuevas habilidades de forma más eficiente.

• Gracias a la llegada de la IA surge la oportunidad de construir un modelo económico nuevo centrado en el bienestar humano y no solo en la productividad y el beneficio económico.

• Es una oportunidad para ser más críticos y reflexionar antes de tomar decisiones.

• Existe una necesidad creciente de que los equipos reflexionen sobre la ética en el uso de la IA, lo cual impulsa un uso más responsable y ético de la tecnología.

• La IA ayuda a ahorrar tiempo en tareas de bajo valor, liberando espacio para actividades más significativas, aprendizajes y fortalecimiento de las relaciones humanas.

• Gracias a la IA, las personas tienen la oportunidad de diseñar vidas más humanas, enfocadas en el bienestar y la calidad de vida.

• Transforma las relaciones humanas en el contexto laboral, fomentando una cooperación más eficiente entre equipos y tecnología.

• La irrupción de la IA abre la posibilidad de reeducar a los equipos en cuanto a formas de trabajo, cultura organizacional y resultados.

• Fomenta el aprendizaje colectivo al compartir conocimiento y experiencias.

• Mejora la productividad y eficiencia laboral, potenciando tanto el rendimiento individual como el colectivo.

• Posibilita resultados de mayor calidad y con un componente creativo más alto.

• Impulsa la formulación de nuevas preguntas/respuestas y a replantear los sistemas educativos y familiares para adaptarlos a esta nueva era tecnológica.

La llegada de la IA aumenta la exigencia de mayor responsabilidad en los resultados en el trabajo.

IMPACTOS NEGATIVOS

• La IA podría generar desigualdad social al no haber un acceso y dominio equitativo de la tecnología.

Puede generar aislamiento social y emocional (soledad no deseada), debilitando los lazos de comunidad y pertenencia dentro del trabajo.

• Alto riesgo de reducción del pensamiento crítico y con el tiempo puede ir mermando capacidades intelectuales.

• Existe el riesgo de tomar decisiones sin contraste humano, confiando ciegamente en la precisión de un algoritmo que no tiene la verdad absoluta.

• Surgen problemas de salud mental, asociados al aislamiento, la hiperproductividad o la pérdida de sentido del trabajo.

• Riesgo de aparición de nuevas formas de vida muy desvinculadas de la realidad física debido al fortalecimiento de la vida digital.

• Riesgo de surgimiento de un sesgo cultural por la falta de conexión, reflexión y construcción de la identidad colectiva.

Alto riesgo de impacto medioambiental por el uso masivo de la inteligencia artificial.