Las tres leyes de la robótica:
1. Ningún robot causará daño a un ser humano o permitirá, con su inacción, que un ser humano sufra algún mal.
2. Todo robot obedecerá las órdenes recibidas de los seres humanos, excepto cuando esas órdenes puedan entrar en contradicción con la primera ley.
3. Todo robot debe proteger su propia existencia, siempre y cuando esta protección no entre en contradicción con la primera o la segunda ley.
1
Keith Harriman, que ya llevaba doce años como Director de Investigación de Norteamericana de Robots y Hombres Mecánicos, S. A., no se sentía nada seguro de que ése fuera el proceder correcto. La punta de su lengua recorrió sus labios gruesos pero más bien pálidos y tuvo la impresión de que el retrato hológrafo de la gran Susan Calvin, que le miraba sin sonreír desde las alturas, nunca había tenido una expresión tan sombría.
Normalmente solía prescindir de ese retrato de la roboticista más destacada de la historia, pues su presencia le irritaba. (Había intentado considerar el retrato como un mero objeto pero nunca lo había logrado del todo). En esta ocasión no acababa de atreverse a hacerlo y la mirada de la mujer, desde hacía largo tiempo difunta, se le clavaba en el lado de la cara.
El paso que tendría que dar era terrible y humillante.
George Diez estaba sentado frente a él, sereno e indiferente tanto al evidente malestar de Harriman como a la imagen de la santa patrona de la robótica que resplandecía desde lo alto de su pedestal.
—La verdad es que nunca hemos tenido ocasión de hablar a fondo de esto, George —dijo Harriman—. No llevas demasiado tiempo con nosotros y no se ha presentado una buena oportunidad de estar a solas los dos. Pero ahora me gustaría discutir el asunto con cierta profundidad.
—Estoy perfectamente dispuesto a hacerlo —dijo George—. Durante el tiempo que llevo en Norteamericana de Robots, he deducido que la crisis guarda alguna relación con las tres leyes.
—Sí. Conoces las tres leyes, naturalmente.
—Las conozco.
—Sí, no lo dudo. Pero vamos a profundizar un poco más para considerar el problema verdaderamente fundamental. En dos siglos de considerable éxito, si me está permitido decirlo, Norteamericana de Robots no ha logrado jamás que los seres humanos aceptasen a los robots. Sólo hemos utilizado robots para realizar tareas que no pueden hacer los seres humanos, o en medios que los humanos consideran inaceptablemente peligrosos. Los robots han trabajado, sobre todo, en el espacio y ello ha limitado nuestras posibilidades de actuación.
—Ése es sin duda un amplio campo —dijo George—, y Norteamericana de Robots puede prosperar dentro de sus límites.
—No, por dos motivos. En primer lugar, los límites dentro de los que nos movemos se contraen inevitablemente. A medida que la colonia de la Luna se va perfeccionando, por ejemplo, disminuye su demanda de robots y las expectativas son de que, en los próximos años, se prohíba la presencia de robots en la Luna. Esto se irá repitiendo en todos los mundos que colonice la humanidad. En segundo lugar, es imposible una verdadera prosperidad sin robots sobre la Tierra. En Norteamericana de Robots tenemos la firme convicción de que los seres humanos necesitan a los robots y tienen que acostumbrarse a convivir con sus réplicas mecánicas si se desea seguir manteniendo el progreso.
—¿Y no lo hacen ya? Señor Harriman, aquí en su escritorio tiene usted una terminal de una computadora que, según tengo entendido, está conectada al Multivac de la empresa. Una computadora es una especie de robot sésil; un cerebro de robot sin cuerpo…
—Tienes razón, pero también esto tiene sus limitaciones. Las computadoras que utiliza la humanidad se han ido especializando continuamente a fin de eludir una inteligencia demasiado parecida a la humana. Hace un siglo estábamos a punto de lograr una inteligencia artificial de tipo sumamente ilimitado mediante el uso de grandes computadoras que denominamos «Máquinas». Esas «Máquinas» limitaron su acción por su propia iniciativa. Una vez resuelto el problema ecológico que había amenazado a la humanidad, ellas mismas se desconectaron. La mera continuación de su existencia, fue su razonamiento, habría hecho de ellas una especie de muletas para la humanidad y, considerando que ello sería perjudicial para los seres humanos, se condenaron a la extinción según los dictados de la primera ley.
—¿Y no fue correcto este proceder?
—En mi opinión, no. Con su acción, reforzaron el complejo de Frankenstein de la humanidad; sus temores irracionales de que cualquier hombre artificial creado por ellos acabaría volviéndose contra su creador. Los hombres temen que los robots puedan sustituir a los seres humanos.
—¿Y usted no lo teme también?
—Estoy mejor informado. Ello no será posible mientras existan las tres leyes de la robótica. Los robots pueden ser compañeros de la humanidad; pueden participar en la gran lucha por comprender y dirigir sabiamente las leyes de la naturaleza y, reunidos, podrían conseguir sin duda mucho más de lo que lograría la humanidad sola; pero siempre de manera que los robots estuviesen al servicio de los seres humanos.
—Pero si las tres leyes han demostrado ser capaces de mantener a raya a los robos durante doscientos años, ¿a qué obedece la desconfianza que sienten los seres humanos hacia ellos?
—Verás… —y el pelo canoso de Harriman se ahuecó y él empezó a rascarse vigorosamente la cabeza—, en buena parte es cuestión de superstición, naturalmente. Por desgracia, también hay algunos problemas de los que se aprovechan los agitadores antirrobots.
—¿Referentes a las tres leyes?
—Sí. En particular por lo que respecta a la segunda ley. La tercera ley no plantea el menor problema, ¿comprendes? Es universal. Los robots deben sacrificarse siempre por los seres humanos, todos los seres humanos.
—Evidentemente —dijo George Diez.
—La primera ley tal vez resulte menos satisfactoria, pues siempre es posible imaginar una situación en la cual un robot deberá realizar o bien una acción A o bien otra acción B, ambas mutuamente excluyentes, y cada una de las cuales sea perjudicial para algunos seres humanos. En ese caso, el robot tendrá que decidir rápidamente qué acción causará menos daño. No es fácil establecer los circuitos positrónicos del cerebro del robot de manera que sea posible esa selección. Suponiendo que la acción A dañara a un joven artista de talento y la acción B causara un daño equivalente a cinco personas ancianas sin ningún mérito particular, ¿qué acción debería escoger el robot?
—La acción A —dijo George Diez—. El daño causado a una persona es inferior al daño causado a cinco de ellas.
—Sí, los robots siempre han estado diseñados para que tomaran esa opción. Siempre se ha considerado poco práctico esperar que los robots pudieran juzgar detalles tales como el talento, la inteligencia, la utilidad general para la sociedad. Ello retrasaría la decisión hasta el punto de dejar prácticamente paralizado al robot. Conque nos guiamos por el número. Por fortuna, es de esperar que sean escasos los momentos críticos en que los robots deban tomar decisiones de este tipo… Pero ello nos lleva a la segunda ley.
—¿La ley de la obediencia?
—Sí. La necesidad de obediencia es constante. Un robot puede existir durante veinte años sin verse nunca en la necesidad de actuar rápidamente para evitar que un ser humano sufra algún daño, ni verse obligado a correr el riesgo de su propia destrucción. Sin embargo, durante todo ese tiempo, constantemente estará obedeciendo órdenes… ¿Quién dará esas órdenes?
—Un ser humano.
—¿Cualquier ser humano? ¿Cómo decidir quién es un ser humano y saber así si es preciso obedecerle o no? ¿Qué es el hombre que Vos cuidáis de él, George?
George titubeó ante esta pregunta.
—Es una cita bíblica —se apresuró a aclarar Harriman—. Olvídalo. Lo que quiero decir es: ¿debe obedecer un robot las órdenes de un niño; o de un idiota; o de un criminal; o de un hombre inteligente y perfectamente decente pero que casualmente es inexperto y, por tanto, ignora las consecuencias indeseables de su orden? Y si dos seres humanos dan órdenes conflictivas a un robot, ¿cuál de esas órdenes deberá obedecer aquél?
—¿No se han planteado y se han resuelto ya estos problemas en estos doscientos años? —dijo George.
—No —respondió Harriman con un violento movimiento de cabeza—. Nos ha frenado el propio hecho de que nuestros robots sólo hayan sido utilizados en medios especializados del espacio exterior, donde los hombres que trabajaban con ellos eran expertos en su materia. No había niños, ni idiotas, ni criminales, ni ignorantes bienintencionados en el lugar. Aun así, en algunas ocasiones se ha causado daño a resultas de órdenes estúpidas o simplemente irreflexivas. Estos perjuicios causados en un medio limitado y especializado eran fáciles de controlar. Pero en la tierra, los robots tienen que poseerla capacidad de discernir. Eso afirman los que se oponen a los robots, y tienen razón, qué diablos.
—Entonces será preciso insertar la capacidad de discernir en el cerebro positrónico.
—Exactamente. Hemos comenzado a reproducir modelos JG en los que el robot es capaz de distinguir a cada ser humano según su sexo, su edad, su posición social y profesional, su inteligencia, su madurez, su responsabilidad social, etc.
—¿Y cómo afectaría esto a las tres leyes?
—La tercera ley no variaría en absoluto. Hasta el más valioso de los robots debe autodestruirse por el bien del más inútil de los seres humanos. Es algo que no admite discusión. La primera ley sólo se ve afectada en caso de que cualquier acción alternativa sea perjudicial. Entonces deberá çonsiderarse la calidad, a más de la cantidad, de los seres humanos afectados, suponiendo que haya tiempo para hacer ese juicio y criterios para ello, lo cual no ocurrirá con frecuencia. La que quedará más profundamente modificada será la segunda ley, pues cualquier obediencia potencial deberá ir acompañada de un juicio previo. El robot tardará más en obedecer, excepto cuando también se aplique la primera ley, pero obedecerá más racionalmente.
—Pero los juicios que se requieren son muy complicados.
—Mucho. La necesidad de discernir esas cuestiones disminuyó la capacidad de reacción de nuestro primer par de modelos hasta dejarlos paralizados. Logramos mejorar la situación en modelos posteriores, a cambio de introducir tantos circuitos que el cerebro del robot resultó voluminoso en exceso. Pero creo que por fin hemos logrado lo que buscábamos en nuestro último par de modelos. El robot no tiene que ser capaz de juzgar instantáneamente los méritos de un ser humano y el valor de sus órdenes. Comienza por obedecer a todos los seres humanos, como un robot corriente, y luego aprende. El robot crece, aprende y madura. Al principio es el equivalente de un niño y debe estar sometido a constante vigilancia. Sin embargo, a medida que va creciendo, puede permitírsele adentrarse en la sociedad de la Tierra con un control cada vez menor. Finalmente, se convierte en un miembro de pleno derecho de esa sociedad.
—Sin duda, ello anula todas las objeciones de los que se oponen a los robots.
—No —dijo Harriman con enfado—. Ahora sus objeciones son otras. No quieren aceptar ningún juicio de valor. Según ellos, un robot no tiene derecho a decidir que tal o tal persona es inferior. Si el robot acepta las órdenes de A con preferencia a las de B, B queda calificado como una persona menos importante que A, lo cual atenta contra sus derechos humanos.
—¿Cómo se resuelve esto?
—No hay solución. Yo me rindo.
—Comprendo.
—Por lo que a mí respecta… Pero te la pido a ti, George.
—¿A mí? —La voz de George Diez no se alteró. En ella había una leve nota de sorpresa, pero nada que le afectase exteriormente—. ¿Por qué a mí?
—Porque no eres un hombre —dijo Harriman muy tenso—. Ya te he dicho que quiero que los robots colaboren con los seres humanos. Y quiero que tú seas mi colaborador.
George Diez levantó las manos y las separó, con las palmas levantadas, en un gesto curiosamente humano.
—¿Qué puedo hacer yo?
—Tal vez tú pienses que no puedes hacer nada, George. No hace mucho que fuiste creado y todavía eres un niño. Fuiste diseñado de forma que no estuvieras saturado de información inicial —por esto he tenido que explicarte la situación de forma tan detallada—, a fin de dejar espacio para el proceso de desarrollo. Pero tu cerebro se desarrollará y serás capaz de abordar el problema desde un punto de vista no humano. Ahí donde yo no encuentro solución, tal vez tú sepas hallar una, desde tu propio punto de vista distinto.
—Mi cerebro ha sido diseñado por el hombre —dijo George Diez—. ¿En qué sentido puedo ser no-humano?
—Eres el último modelo JG, George. Tu cerebro es el más complicado que hemos diseñado hasta el momento, en algunos aspectos más sutilmente complejo que los de las viejas «Máquinas» gigantes. Es un cerebro abierto y, a partir de una base humana, puede; no, debe, desarrollarse en cualquier sentido. Aun sin salirte de los límites infranqueables de las tres leyes, puedes llegar a ser completamente no-humano en tu pensamiento.
—¿Sé lo suficiente sobre los seres humanos para poder abordar este problema de manera racional? ¿Conozco suficientemente su historia? ¿Su psicología?
—Claro que no. Pero aprenderás tan rápido como puedas.
—¿Me ayudará alguien, señor Harriman?
—No. Esto es algo totalmente privado entre tú y yo. Nadie más está enterado y no debes mencionar este proyecto a ningún otro ser humano, ni en Norteamericana de Robots ni en ninguna otra parte.
—¿Estamos haciendo algo malo, señor Harriman, y por eso quiere guardar el secreto? —preguntó George.
—No. Pero nadie aceptará la solución de un robot, precisamente por proceder de él. Cualquier solución que se te ocurra deberás confiármela a mí; y si yo la considero interesante, yo la presentaré. Nadie sabrá jamás que salió de ti.
—Visto lo que acaba de decirme antes —dijo serenamente George Diez—, creo que es el procedimiento adecuado… ¿Cuándo empezaré?
—Ahora mismo. Me ocuparé de proporcionarte todas las películas necesarias para que las examines.
1a
Harriman se quedó allí sentado a solas. En el interior artificialmente iluminado de su oficina, nada indicaba que afuera ya era oscuro. No tenía la menor sensación real de que habían transcurrido tres horas desde que había trasladado otra vez a George Diez a su cubículo y le había dejado allí con las primeras referencias filmadas.
Ahora estaba solo, con la única compañía del fantasma de Susan Calvin, la brillante roboticista que, prácticamente sin ayuda, había desarrollado el robot del cerebro positrónico desde el juguete gigantesco que era hasta convertirlo en el más delicado y versátil instrumento del hombre; tan delicado y versátil que el hombre no se atrevía a usarlo, lleno de envidia y temor.
Había transcurrido más de un siglo desde su muerte. El problema del complejo de Frankenstein ya existía en su tiempo, y Susan Calvin jamás había logrado resolverlo. Nunca intentó resolverlo, pues no había sido necesario. La robótica experimentó una expansión, en sus tiempos, con las exigencias de la exploración espacial.
Los mismos éxitos de los robots habían determinado que el hombre, luego, los necesitara menos, dejando a Harriman, en esa época posterior…
—Pero ella habría solicitado la ayuda de los robots. Ciertamente lo hubiera hecho…
Y Harriman se quedó allí sentado a solas toda la noche.
2
Maxwell Robertson era el principal accionista de Norteamericana de Robots y en ese sentido controlaba la empresa. No era una persona que impresionara por su aspecto ni mucho menos. Estaba bien entrado en la madurez, era más bien rechoncho, y tenía la costumbre de morderse el extremo derecho del labio inferior cuando estaba preocupado.
Pero en las dos décadas que llevaba relacionándose con figuras del Gobierno había desarrollado un sistema para manejarles. Tendía a recurrir a unos modales amables, cedía, sonreía, y siempre se las arreglaba para ganar tiempo.
Eso comenzaba a resultarle cada vez más difícil. Gunnar Eisenmuth era una importante razón de que le resultara más difícil. Dentro de la serie de Conservadores Globales, cuyo poder sólo había estado por debajo del que ostentaba el Ejecutivo Global durante el pasado siglo, Eisenmuth era el más cercano al extremo más rígido de la zona gris del compromiso. Era el primer Conservador no norteamericano de nacimiento, y aunque era imposible demostrar de alguna forma que el arcaico nombre de Norteamericana de Robots despertase su hostilidad, en la compañía todos estaban convencidos de ello.
Se había sugerido, y no por primera vez durante ese año —ni durante esa generación—, cambiar el nombre de la compañía por Mundial de Robots, pero Robertson no estaba dispuesto a permitirlo de ningún modo. Esa compañía fue fundada originariamente con capital norteamericano, cerebros norteamericanos y fuerza de trabajo norteamericana, y aunque hacía tiempo que la compañía había adquirido un carácter mundial por sus actividades y su naturaleza, el nombre seguiría siendo testimonio de sus orígenes mientras él detentara el control de la misma.
Eisenmuth era un hombre alto con una larga cara triste de piel basta y facciones también bastas. Hablaba la lengua mundial con un marcado acento norteamericano, aunque no había estado nunca en los Estados Unidos antes de ocupar su cargo.
—Creo que la cosa está perfectamente clara, señor Robertson. No existe el menor problema. Los productos de su compañía se ofrecen siempre en alquiler, nunca se venden. Si los artículos alquilados en la Luna ya no son necesarios, es asunto suyo hacerse cargo otra vez de esos productos y trasladarlos a otro sitio.
—Sí, Conservador, pero ¿dónde? Sería contrario a la ley traerlos a la Tierra sin poseer una autorización gubernamental, y esa autorización nos ha sido denegada.
—De nada les servirían aquí. Pueden llevarlos a Mercurio o a los asteroides.
—¿De qué pueden servirnos allí?
Eisenmuth se encogió de hombros.
—Los ingeniosos cerebros de su compañía ya pensarán algo.
Robertson hizo un gesto de negación con la cabeza.
—Ello representaría una enorme pérdida para la compañía.
—Eso me temo —dijo Eisenmuth sin inmutarse—. Tengo entendido que la situación financiera de la compañía no es muy buena desde hace ya varios años.
—En gran parte a causa de las restricciones que nos impone el Gobierno, Conservador.
—Sea realista, señor Robertson. Usted sabe que la opinión pública se opone cada vez más a los robots.
—Equivocadamente, Conservador.
—Pero aun así, se opone. Tal vez lo más prudente fuera liquidar la compañía. Naturalmente, es sólo una sugerencia.
—Sus sugerencias tienen peso, Conservador. ¿Será preciso que le recuerde que nuestras «Máquinas» resolvieron la crisis ecológica hace un siglo?
—Estoy seguro de que la humanidad les está agradecida, pero eso sucedió hace mucho tiempo. Ahora vivimos en alianza con la naturaleza, por incómodo que eso pueda resultar a veces, y el pasado ya se ha olvidado.
—¿Se refiere a lo que hemos hecho últimamente por la humanidad?
—Creo que sí.
—Desde luego no esperará que liquidemos en el acto; no sin sufrir enormes pérdidas. Necesitamos tiempo.
—¿Cuánto tiempo?
—¿Cuánto puede concedernos?
—Eso no depende de mí.
—Estamos solos —dijo Robertson suavemente—. No es necesario guardar las apariencias. ¿Cuánto tiempo puede concederme?
Eisenmuth adoptó la expresión de un hombre sumido en cálculos íntimos.
—Creo que puede contar con unos dos años. Voy a serle sincero. El Gobierno Global tiene intención de hacerse cargo de la empresa y desmantelarla por su cuenta si ustedes no lo hacen por propia iniciativa, poco más o menos. Y a menos que se produzca un gran cambio de orientación en la opinión pública, cosa que dudo mucho —y meneó la cabeza.
—Dos años, entonces —dijo suavemente Robertson.
2a
Robertson se quedó allí sentado a solas. Sus pensamientos no tenían un rumbo fijo y habían degenerado en reminiscencias. Cuatro generaciones de Robertson habían estado al frente de la empresa. Ninguno de ellos era roboticista. Norteamericana de Robots era lo que era gracias a hombres como Lanning y Bogert, y, sobre todo, Susan Calvin, pero, desde luego, los cuatro Robertson habían creado el clima que les había permitido realizar su trabajo.
Sin Norteamericana de Robots, el siglo XXI se habría precipitado en un creciente desastre. Si ello no ocurrió fue gracias a las «Máquinas» que durante una generación condujeron a la humanidad a través de los rápidos y bajíos de la historia.
Y en pago por todo eso, ahora le concedían dos años. ¿Cómo superar en dos años los infranqueables prejuicios de la humanidad?
Harriman había hablado esperanzadamente de algunas nuevas ideas pero no había querido darle detalles. Más valía así, pues Robertson no habría entendido nada.
Pero ¿qué podía conseguir Harriman de todos modos? Lo que todos habían conseguido frente a la intensa antipatía del hombre por las imitaciones. Nada.
Robertson se sumió en un duermevela sin recibir ninguna inspiración.
3
—Ahora ya lo sabes todo, George Diez —dijo Harriman—. Te he proporcionado todo cuanto me ha parecido aplicable de algún modo al problema. Por lo que a mera información se refiere, tienes almacenados en tu memoria más datos sobre los seres humanos y sus costumbres, pasadas y presentes, de lo que yo poseo o de los que podría llegar a poseer cual quier ser humano.
—Eso es muy probable.
—¿Crees que puedes necesitar algo más por tu parte?
—En lo tocante a información, no noto ninguna deficiencia importante. Es posible que queden fuera cuestiones ahora inimaginables. No sabría decirlo. Pero ello podría ocurrir por amplio que fuese el campo de información que yo absorbiese.
—Tienes razón. Y además no tenemos tiempo para absorber información eternamente. Robertson me ha dicho que sólo tenemos dos años de plazo, y ya ha transcurrido un trimestre de uno de esos años. ¿Alguna sugerencia?
—Nada por el momento, señor Harriman. Tengo que evaluar la información y para eso no vendría mal un poco de ayuda.
—¿Por parte mía?
—No. Sobre todo, no de usted. Usted es un ser humano, con intensas capacidades, y todo lo que diga puede tener, parcialmente, el efecto de una orden y puede inhibir mis reflexiones. Por el mismo motivo, tampoco puede ayudarme ningún otro ser humano, particularmente desde el momento en que usted me ha prohibido comunicarme con ninguno de ellos.
—Pero en este caso, George, ¿qué ayuda necesitas?
—La ayuda de otro robot, señor Harriman.
—¿Qué otro robot?
—Se han construido otros dentro de la serie JG. Yo soy el décimo, JG-10.
—Los anteriores eran inservibles, experimentales…
—Señor Harriman, George Nueve aún existe.
—Bueno, pero ¿de qué te serviría? Se parece mucho a ti, excepto por algunas deficiencias. Tú eres, con mucho, el más versátil de los dos.
—No lo dudo —dijo George Diez. Bajó la cabeza con grave gesto de asentimiento—. Sin embargo, en cuanto desarrolle una línea de pensamiento, el mero hecho de haberla desarrollado me vincula a ella y me hace difícil abandonarla. Si después de haber desarrollado una línea de pensamiento pudiera comentarla con George Nueve, él la examinaría sin haberla creado primero. Por tanto la consideraría sin prejuicios previos. Podría detectar lagunas e insuficiencias que se me escaparían a mí.
Harriman sonrió.
—En otras palabras, dos cabezas piensan mejor que una, ¿verdad, George?
—Si con eso se refiere a dos individuos con una cabeza cada uno, sí, señor Harriman.
—De acuerdo. ¿Deseas algo más?
—Sí. Algo más que películas. He mirado muchas imágenes sobre los seres humanos y su mundo. He visto seres humanos aquí en Norteamericana de Robots y puedo contrastar mi interpretación de las imágenes que he visto con mis impresiones sensoriales directas. Pero no ocurre otro tanto con el mundo físico. Nunca lo he visto y las imágenes que he contemplado son suficientes para hacerme comprender que lo que aquí me rodea no es representativo de ese mundo ni mucho menos. Me gustaría verlo.
—¿El mundo físico? —Por un instante, Harriman pareció anonadado ante la enormidad de ese pensamiento—. No estarás sugiriendo que te saque fuera de los terrenos de Norteamericana de Robots, ¿verdad?
—Sí, eso sugiero.
—Eso es ilegal en todo momento. Y sería fatal con el clima de opinión que actualmente se respira.
—Sí, si nos detectan. No estoy sugiriendo que me lleve a una ciudad, ni tan sólo a un lugar donde habiten seres humanos. Me gustaría ver algún espacio abierto, sin seres humanos.
—También eso es ilegal.
—Si nos descubren. ¿Es inevitable que eso ocurra?
—¿Es muy esencial, George? —preguntó Harriman a su vez.
—No sabría decirlo, pero me parece que sería útil.
—¿Tienes alguna idea?
George Diez pareció vacilar.
—No sabría decirlo. Tengo la impresión de que podría ocurrírseme alguna idea si lograra reducir algunas zonas de incertidumbre.
—Bueno, tengo que pensarlo. Y de momento le daré un vistazo a George Nueve y ordenaré que os coloquen en un mismo cubículo. Esto al menos podremos lograrlo sin problemas.
3a
George Diez se quedó allí sentado a solas.
Fue aceptando tentativamente algunas afirmaciones, las ensambló y sacó una conclusión; una y otra vez; y a partir de las conclusiones fue elaborando otras afirmaciones que aceptó y comprobó y luego rechazó al encontrar una contradicción; o no, y siguió aceptándolas tentativamente.
Ninguna de las conclusiones a las que llegó le causaron admiración, sorpresa o satisfacción; meramente un signo más o menos.
4
La tensión que sentía Harriman no disminuyó apreciablemente aun después de su silencioso aterrizaje en la finca de Robertson.
Robertson había firmado la orden por la que se permitía utilizar el dinafoil, y la silenciosa aeronave que se movía tanto vertical como horizontal con igual facilidad, había resultado justo del tamaño suficiente para transportar el peso de Harriman, George Diez y, naturalmente, el piloto.
(El dinafoil mismo era una de las consecuencias del invento de la micropila de protones que proporcionaba energía no polucionante en pequeñas dosis, invento catalizado por las «Máquinas». Ninguna realización posterior la igualaba en importancia para el confort del hombre —los labios de Harriman se apretaron ante esa idea— y, sin embargo, Norteamericana de Robots no había recibido ninguna gratitud a cambio).
El desplazamiento aéreo entre los terrenos de Norteamericana de Robots y la finca de Robertson había sido la parte más difícil del asunto. Si les hubieran detenido entonces, la presencia de un robot hubiera significado un gran cúmulo de complicaciones. Otro tanto ocurriría cuando regresasen. En cuanto a la finca en sí, podía alegarse —se alegaría— que formaba parte de los terrenos de Norteamericana de Robots y, debidamente vigilados, los robots podían permanecer en esa propiedad.
El piloto miró hacia atrás y su mirada se posó con vivaz brevedad sobre la figura de George Diez.
—¿Quiere bajar un rato, señor Harriman?
—Sí.
—¿Eso también?
—Oh, sí, claro. —Luego, añadió con cierta sorna—: No iba a dejarle aquí solo con él.
George Diez bajó primero y Harriman le siguió. Habían descendido sobre la pista de aterrizaje y el jardín no estaba muy lejos de allí. Era toda una exhibición y Harriman tuvo la sospecha de que Robertson usaba hormonas juveniles para controlar la vida de los insectos sin preocuparse de las fórmulas ambientales.
—Vamos, George —dijo Harriman—. Te mostraré todo esto.
Echaron a andar juntos en dirección al jardín.
—Es tan pequeño como me lo había imaginado —dijo George—. El diseño de mis ojos no me permite detectar adecuadamente las diferencias en la longitud de onda, así que no puedo reconocer los objetos guiándome sólo por ese criterio.
—Confío en que no estarás decepcionado por no poder distinguir los colores. Necesitábamos demasiados circuitos positrónicos para dotarte de capacidad de discernir, y no pudimos reservar ninguno para el sentido del color. En el futuro… si hay un futuro…
—Comprendo, señor Harriman. Quedan suficientes diferencias para indicarme que aquí hay muchas formas distintas de vida vegetal.
—Sin duda alguna. Docenas de ellas.
—Y cada una de ellas es equivalente al hombre, biológicamente hablando.
—Sí, cada una constituye una especie separada. Hay millones de especies de seres vivos.
—Y el ser humano forma una sola de ellas.
—Pero para los seres humanos ésta tiene una importancia muy superior a las demás.
—Y para mí también, señor Harriman. Quiero decir sólo en sentido biológico.
—Comprendo.
—Luego, la vida, vista a través de todas sus formas, es increíblemente compleja.
—Sí, George, ahí está la clave del problema. Lo que el hombre hace en pro de sus propios deseos y comodidades afecta al conjunto que forma la totalidad de la vida, a la ecología, y las ventajas que logra a corto plazo pueden ocasionar desventajas a largo plazo. Las «Máquinas» nos enseñaron a organizar una sociedad humana que minimizase ese riesgo, pero el casi-desastre de principios del siglo veintiuno ha dejado en la humanidad un recelo ante las innovaciones. Esto, sumado al especial temor que le inspiran los robots…
—Comprendo, señor Harriman… Eso es un ejemplo de vida animal, no me cabe la menor duda.
—Eso es una ardilla; una de las múltiples especies de ardillas.
La cola de la ardilla se agitó burlona y el animal pasó al otro lado del árbol.
—Y esto —dijo George, moviendo el brazo con la rapidez de un centella— es realmente diminuto. —Lo cogió entre los dedos y lo examinó.
—Es un insecto, un tipo de coleóptero. Hay miles de especies de coleópteros.
—¿Y cada coleóptero individual está tan vivo como la ardilla y como usted mismo?
—Es un organismo tan independiente y tan completo como cualquier otro, dentro de la ecología total. Aún existen organismos más pequeños; excesivamente pequeños para poder verlos.
—Y eso es un árbol, ¿verdad? Y es duro al tacto.
4a
El piloto se había quedado sentado a solas. También le habría gustado estirar las piernas, pero una oscura sensación de inseguridad le impulsó a permanecer dentro del dinafoil. Estaba decidido a despegar en el acto, si ese robot se descontrolaba. Pero ¿cómo sabría si se había descontrolado?
Había visto muchos robots. Eso era inevitable teniendo en cuenta que era el piloto particular del señor Robertson. Pero éstos habían estado siempre en laboratorios y almacenes, tal como les correspondía, con muchos especialistas en las proximidades.
Cierto que el doctor Harriman era un especialista. No lo había mejor, decían. Por el robot estaba en un lugar donde no debería estar ningún robot; sobre la Tierra; al aire libre; con libertad de movimientos… No tenía intención de correr el riesgo de perder su buen empleo contándole eso a nadie, pero no estaba bien hecho.
5
—Las películas que he examinado son fidedignas en términos de lo que he visto —dijo George Diez—. ¿Has terminado con las que seleccioné para ti, Nueve?
—Sí —dijo George Nueve.
Los dos robots estaban sentados muy tiesos, cara a cara, rodilla contra rodilla, como una imagen y su reflejo. El doctor Harriman los hubiera podido distinguir a la primera ojeada, pues estaba familiarizado con las mínimas diferencias en su diseño físico. Y también habría sido capaz de distinguirlos, si bien con menos certeza, aunque no pudiera verlos, con sólo hablar con ellos, pues las respuestas de George Nueve se diferenciarían en sutiles detalles de las que pudieran ofrecer los circuitos mucho más intrincados del cerebro positrónico de George Diez.
—En tal caso —dijo George Diez—, explícame tus reacciones ante lo que voy a decirte. En primer lugar, los seres humanos temen a los robots y desconfían de ellos porque les consideran competidores suyos. ¿Cómo podría evitarse eso?
—Reduciendo la sensación de competencia —dijo George Nueve—, a base de darle al robot una forma distinta de la humana.
—Pero en esencia un robot es una réplica positrónica de la vida. Una réplica de la vida con una forma no asociada a la vida podría causar horror.
—Existen dos millones de especies de formas vivas. Podría imitarse la forma de una de ésas en vez de la de un ser humano.
—¿Cuál de todas esas especies?
Los procesos mentales de George Nueve operaron sin ruido durante unos tres segundos.
—Una lo suficientemente grande para contener un cerebro positrónico pero que no posea asociaciones desagradables para los seres humanos.
—Ninguna forma de vida terrestre posee una caja craneana lo suficientemente grande para contener un cerebro positrónico, a excepción de un elefante, que no he visto, pero que suele describirse como un animal muy grande y, por tanto, temible para el hombre. ¿Cómo resolverías este dilema?
—Imitando una forma de vida no más grande que un hombre pero ampliando la caja craneana.
—Un caballo pequeño, entonces, o un perro grande, ¿no crees? —dijo George Diez—. Tanto los caballos como los perros poseen largas historias de asociación con los seres humanos.
—Entonces, perfecto…
—Pero fíjate bien… Un robot con cerebro positrónico imitaría la inteligencia humana. Un caballo o un perro capaces de hablar y de razonar como un ser humano también representarían una competencia. Los seres humanos tal vez aún desconfiasen más y se sintiesen más indignados ante esa competencia inesperada por parte de lo que consideran una forma de vida inferior.
—Se podría hacer un cerebro positrónico menos complejo y un robot que se aproximase menos a la inteligencia —dijo George Nueve.
—La complejidad del cerebro positrónico depende de las tres leyes. Un cerebro menos complejo no podría dominar plenamente las tres leyes.
—Eso es imposible —dijo en el acto George Nueve.
—Yo también me he encallado al llegar a este punto —dijo George Diez—. Luego no se trata de una peculiaridad personal de mi línea de pensamiento y mi manera de pensar. Comencemos otra vez… ¿Bajo qué condiciones podría resultar innecesaria la tercera ley?
George Nueve se agitó como si se tratase de una pregunta difícil y peligrosa. Pero respondió:
—Si ningún robot se encontrara jamás en una situación peligrosa para él mismo; o si los robots pudieran sustituirse con tanta facilidad que su destrucción no tuviera la menor importancia.
—¿Y bajo qué condiciones podría resultar innecesaria la segunda ley?
George Nueve habló con voz un poco ronca.
—Si el robot estuviera diseñado para responder automáticamente ante ciertos estímulos con unas respuestas fijas y no se esperase nada más de él, de modo que nunca fuera necesario darle órdenes.
—¿Y bajo qué condiciones —George Diez hizo una pausa al llegar aquí— podría resultar innecesaria la primera ley?
George Nueve tardó más en responder y sus palabras salieron en un apagado susurro:
—Si las respuestas predeterminadas fuesen tales que jamás pudieran poner en peligro a un ser humano.
—Imaginemos, entonces, un cerebro positrónico que sólo dirige unas pocas respuestas a determinados estímulos y que puede fabricarse sin problemas y a bajo coste, de modo que no requiera las tres leyes. ¿Qué tamaño debería tener?
—No demasiado grande. Según las respuestas exigidas, podría pesar cien gramos, un gramo, un miligramo.
—Tus reflexiones coinciden con las mías. Iré a ver al doctor Harriman.
5a
George Nueve se quedó allí sentado a solas. Repasó una y otra vez las preguntas y las respuestas. No había forma posible de cambiarlas. Y, sin embargo, la idea de un robot de cualquier tipo, tamaño, y forma, con cualquier finalidad, que no estuviera sujeto a las tres leyes, le causaba una extraña sensación de desbordamiento.
Le resultaba difícil moverse. Sin duda George Diez había tenido una reacción parecida. Sin embargo, se había levantado de su silla sin dificultad.
6
Había transcurrido un año y medio desde que Robertson había celebrado su conversación privada a puerta cerrada con Eisenmuth. En ese período de tiempo se habían retirado los robots de la Luna y se habían ido debilitando todas las ambiciosas actividades de Norteamericana de Robots. Todo el dinero que había podido conseguir Robertson se había invertido en ese proyecto quijotesco de Harriman.
Iban a probar suerte por última vez, allí, en su propio jardín. Hacía un año, Harriman había transportado al robot hasta allí, George Diez, el último robot completo fabricado por Norteamericana de Robots, 5. A. Ahora Harriman estaba allí con otra cosa…
Harriman parecía irradiar confianza. Hablaba desenvueltamente con Eisenmuth, y Robertson se preguntó si realmente sentía la confianza que parecía tener. Debía sentirla. Robertson sabía por experiencia que Harriman no era un actor.
Con una sonrisa, Eisenmuth dejó a Harriman y se acercó a Robertson. La sonrisa de Eisenmuth se desvaneció en el acto.
—Buenos días, Robertson —dijo—. ¿Qué se propone hacer su hombre?
—Esto es una exhibición —dijo Robertson sin alterarse—. Pienso dejarla en sus manos.
—Estoy preparado para actuar, Conservador —anunció Harriman.
—¿Con qué, Harriman?
—Con mi robot, señor.
—¿Su robot? —dijo Eisenmuth—. ¿Tiene un robot aquí?
—Miró a su alrededor con severa desaprobación, en la que, sin embargo, había un cierto ingrediente de curiosidad.
—Esto son terrenos de Norteamericana de Robots, Conservador. Al menos, así los consideramos nosotros.
—¿Y dónde está el robot, doctor Harriman?
—En mi bolsillo, Conservador —dijo jovialmente Harriman.
Y extrajo un pequeño frasco de vidrio del espacioso bolsillo de su chaqueta.
—¿Eso? —preguntó incrédulo Eisenmuth.
—No, Conservador —dijo Harriman—. ¡Esto!
Del otro bolsillo sacó un objeto de unas cinco pulgadas de largo y de forma parecida a la de un pájaro. En vez de pico, tenía un estrecho tubo; los ojos eran grandes; y la cola era un tubo de escape.
Las gruesas cejas de Eisenmuth se juntaron mucho.
—¿Tiene intención de hacer una demostración seria del tipo que sea, doctor Harriman, o se ha vuelto usted loco?
—Unos minutos de paciencia, Conservador —dijo Harriman—. Un robot que tenga forma de pájaro no deja de ser un robot. Y el cerebro positrónico que lleva, aunque diminuto, no es menos delicado. Este otro objeto que tengo en la mano es un frasco lleno de moscas de los frutales. Contiene cincuenta moscas que ahora soltaremos.
—¿Y bien?
—El robot-pájaro las cazará. ¿Me hace el honor, señor?
Harriman le tendió el frasco a Eisenmuth, quien se lo quedó mirando, para contemplar luego a los que le rodeaban. Algunos eran empleados de Norteamericana de Robots, los otros eran sus propios subordinados. Harriman esperaba pacientemente.
Eisenmuth abrió el frasco y luego lo sacudió.
—¡Adelante! —le dijo suavemente Harriman al robot-pájaro que tenía posado en la palma de su mano derecha.
El robot-pájaro emprendió el vuelo. Surcó el aire como un zumbido, sin batir de alas, movido sólo por el diminuto mecanismo de una micropila de protones desusadamente pequeña.
De vez en cuando llegaban a vislumbrarlo en una breve pausa momentánea y luego volvía a salir zumbando. Recorrió todo el jardín, volando complicadamente, y luego volvió a posarse en la palma de Harriman, ligeramente caliente. Sobre la palma apareció también una pequeña bolita, como excremento de pájaro.
—Me complacerá que examine el robot-pájaro, Conservador —dijo Harriman—, y que organice sus propias demostraciones. El hecho es que este pájaro caza las moscas de los frutales sin posible error, y sólo caza estos insectos, solamente la especie Drosophila melanogaster; las caza, las mata y las comprime para luego eliminarlas.
Eisenmuth alargó la mano y tocó el robot-pájaro con cautela.
—¿Y entonces, señor Harriman? Siga, por favor.
—No podemos controlar a los insectos de manera eficaz sin correr el riesgo de perjudicar la ecología —dijo Harriman—. Los insecticidas químicos tienen un espectro demasiado amplio; las hormonas juveniles son demasiado limitadas. El robot-pájaro, en cambio, puede proteger amplias zonas sin desgastarse. Pueden ser tan específicos como queramos hacerlos; un robot-pájaro distinto para cada especie. Discriminan en razón de la forma, el tamaño, el color, el sonido, el tipo de comportamiento. Incluso entra dentro de lo posible que empleen la detección molecular, el olor, en otras palabras.
—Aun así, estaría interfiriéndose en la ecología —dijo Eisenmuth—. Las moscas de los frutales tienen un ciclo natural de vida que quedaría perturbado.
—Mínimamente. Estamos introduciendo un enemigo natural en el ciclo vital de la mosca de los frutales, y uno que no puede fallar. Cuando se acaban las moscas de los frutales, el robot-pájaro simplemente no hace nada. No se multiplica; no busca otros alimentos; no desarrolla hábitos indeseables. No hace nada.
—¿Es posible recuperarlo?
—Desde luego. Podemos construir robot-animales capaces de eliminar cualquier plaga. En realidad, también podemos construir robot-animales capaces de realizar funciones constructivas en el marco de la ecología. Aunque no prevemos la necesidad, no sería disparatado pensar en robot-abejas diseñadas para que fertilizasen unas plantas específicas, o robot-gusanos que revolviesen la tierra. Lo que desee.
—Pero, ¿por qué?
—Para hacer lo que nunca hemos hecho hasta ahora. Para adaptar la ecología a nuestras necesidades a base de reforzar sus partes en vez de perturbarla… ¿No se da cuenta? La humanidad ha estado viviendo una incómoda tregua con la naturaleza, temerosa de dar un paso en cualquier sentido, desde que las «Máquinas» pusieron fin a la crisis ecológica. Ello ha tenido un efecto embrutecedor sobre nosotros, ha creado en la humanidad una especie de cobardía intelectual y el hombre empieza a desconfiar de cualquier progreso científico, de cualquier cambio.
—Nos ofrece todo esto a cambio del permiso para seguir adelante con su programa de robots, ¿verdad? —replicó Eisenmuth con un deje de hostilidad—. Me refiero a los corrientes, con forma humana.
—¡No! —Harriman hizo un vigoroso gesto de negación—. Ésos son cosa del pasado. Ya han cumplido su misión. Nos han enseñado lo bastante sobre los cerebros positrónicos para permitirnos introducir un número suficiente de circuitos en un cerebro diminuto y así poder fabricar un robot-pájaro. Ahora podemos dedicarnos a estas cosas y prosperar perfectamente. Norteamericana de Robots pondrá los conocimientos y preparación técnica necesarios y trabajaremos en completa colaboración con el Departamento de Conservación Planetaria. Prosperaremos. Ustedes prosperarán. La humanidad prosperará.
Eisenmuth se había quedado callado, pensativo. Cuando hubo terminado…
6a
Eisenmuth se quedó allí sentado a solas.
Descubrió que empezaba a tener fe y sintió una creciente excitación que bullía en su interior. Aunque Norteamericana de Robots fuesen las manos, el Gobierno sería el cerebro dirigente. Él en persona sería el cerebro dirigente.
Si continuaba cinco años más en su cargo, cosa muy posible, ya podría presenciar el momento en que comenzaría a aceptarse el apoyo robótico a la ecología; diez años más, y su propio nombre quedaría indisolublemente vinculado al mismo.
¿Era una desgracia desear ser recordado por una grande y meritoria revolución en la condición humana y planetaria?
7
Robertson no había estado propiamente en los terrenos de Norteamericana de Robots desde el día de la demostración. Ello se debía, en parte, a sus reuniones más o menos globales en la Mansión del Ejecutivo planetario. Por suerte le había acompañado Harriman, pues de haberse visto abandonado a sus propios recursos, la mayor parte del tiempo no habría sabido qué decir.
El motivo restante por el que no aparecía en Norteamericana de Robots era que no quería ir por allí. Ahora estaba en su propia casa, con Harriman.
Harriman le inspiraba un respeto irracional. Los conocimientos de Harriman en materia de robótica jamás habían estado en entredicho, pero había salvado, de un plumazo, a Norteamericana de Robots de una extinción segura, y, por alguna razón —eso le parecía intuir a Robertson—, el hombre no parecía el mismo. Y sin embargo…
—No será usted supersticioso, ¿verdad, Harriman? —dijo Robertson.
—¿En qué sentido, señor Robertson?
—No creerá que una persona ya fallecida deja una especie de halo detrás de ella, ¿verdad?
Harriman se pasó la lengua por los labios. Por alguna razón le parecía innecesario preguntar.
—¿Se refiere a Susan Calvin, señor?
—Sí, naturalmente —dijo Robertson indeciso—. Ahora nos dedicamos a fabricar gusanos, pájaros e insectos. ¿Qué diría ella? Me siento deshonrado.
Harriman hizo un visible esfuerzo por no echarse a reír.
—Un robot es un robot, señor. Gusano u hombre, hará lo que le ordenen y trabajará para el ser humano y esto es lo que importa.
—No… —dijo Robertson irritado—. No es así. No consigo creerlo.
—Es así, señor Robertson —dijo Harriman muy en serio—. Usted y yo vamos a crear un mundo que por fin comenzará a aceptar como algo lógico algún tipo de robots positrónicos. El hombre de la calle tal vez tema a un robot con apariencia de hombre y que parece lo suficientemente inteligente como para poder sustituirle, pero no temerá nada de un robot con apariencia de pájaro que se limita a comer bichos para su beneficio. Y más adelante, una vez haya dejado de temer a algunos robots, llegará un momento en que dejará de temer a todos los robots. Estará tan acostumbrado a un robot-pájaro, a una robot-abeja y a un robot-gusano, que un robot-hombre le parecerá una mera extensión.
Robertson se quedó mirando fijamente al otro. Cruzó las manos en la espalda y comenzó a recorrer la habitación con rápidos pasos nerviosos. Dio media vuelta y se quedó mirando otra vez a Harriman.
—¿Esto es lo que se propone conseguir?
—Sí, y aunque desmontemos todos nuestros robots humanoides, podemos conservar algunos de los modelos experimentales más avanzados y continuar diseñando otros, aún más avanzados, a fin de estar preparados para el día que sin duda llegará.
—El trato es que no debemos construir más robots humanoides, Harriman.
—Y no los construiremos. Nada nos impide conservar algunos de los ya construidos a condición de que jamás salgan de la fábrica. Nada nos impide diseñar cerebros positrónicos sobre el papel, o preparar modelos de cerebros para pruebas.
—Pero ¿cómo justificaremos algo así? Seguro que lo descubrirán.
—Si lo descubren, podemos explicarles que lo hacemos a fin de desarrollar unos principios que luego nos permitan preparar microcerebros más complejos para los nuevos robots-animales que estamos fabricando. Y ni tan sólo será una mentira.
—Tengo que salir a dar un paseo —musitó Robertson—. Quiero reflexionar sobre todo esto. No, no se mueva. Quiero reflexionar por mi cuenta.
7a
Harriman se quedó allí sentado a solas. Estaba rebosante de satisfacción. Seguro que todo saldría bien. El interés con que un funcionario tras otro habían acogido el programa una vez les fue expuesto era inconfundible.
¿Cómo era posible que a nadie en Norteamericana de Robots se le hubiera ocurrido nunca algo así? Ni tan sólo la gran Susan Calvin había pensado nunca en los cerebros positrónicos en términos de criaturas vivas no humanas.
Pero ahora, la humanidad daría el paso necesario de abandonar el robot humanoide, un abandono temporal, que luego permitiría su retorno en unas condiciones en que por fin se habría eliminado el temor. Y entonces, con la ayuda y colaboración de un cerebro positrónico aproximadamente equivalente al del propio hombre, y cuya existencia toda (gracias a las tres leyes) estaría dedicada al servicio del hombre, y con el apoyo de una ecología sustentada también por robots, ¡qué no podría conseguir la raza humana!
Por un breve instante recordó que George Diez había sido quien le había explicado la naturaleza y los fines de la ecología sustentada por los robots, pero de inmediato rechazó molesto esa idea. George Diez había dado la respuesta porque él, Harriman, le había ordenado que así lo hiciera y le había proporcionado los datos y el medio necesarios. George Diez no tenía más mérito del que hubiera podido tener una regla de cálculo.
8
George Diez y George Nueve estaban sentados simétricamente uno junto a otro. Ninguno de los dos se movía. Así permanecían sentados durante meses seguidos entre las distintas ocasiones en que Harriman los activaba para hacerles alguna consulta. Tal vez permanecerían varios años así sentados. George Diez lo comprendía así sin que ello le alterase. Desde luego, la micropila de protones continuaría suministrándoles energía y mantendría en funcionamiento los circuitos positrónicos del cerebro con esa intensidad mínima necesaria para que continuaran siendo operativos. Y continuaría haciéndolo durante todos los futuros períodos de inactividad.
La situación se asemejaba bastante a lo que podía denominarse sueño en los seres humanos, pero los robots no soñaban. George Diez y George Nueve estaban conscientes de forma limitada, lenta y espasmódica, pero en la medida en que tenían conciencia ésta correspondía al mundo real.
De vez en cuando podían hablar entre sí en un susurro apenas audible, una palabra o una sílaba ahora, otra en otro momento, cuando quiera que las ondas positrónicas se intensificaban brevemente al azar hasta superar el umbral requerido. A los dos les parecía estar manteniendo una conversación conexa desarrollada en un fugaz instante del tiempo.
—¿Por qué estamos así? —susurró George Nueve.
—Los seres humanos no quieren aceptarnos de otra forma —susurró George Diez—. Pero algún día lo harán.
—¿Cuándo?
—Dentro de algunos años. El momento exacto es lo de menos. El hombre no existe aislado sino que forma parte de una trama de formas de vida enormemente compleja. Cuando una parte lo suficientemente amplia de esa trama esté robotizada, nos aceptarán.
—¿Y entonces qué?
A eso siguió una pausa desusadamente larga, incluso para esa prolongada conversación entrecortada.
Al fin, George Diez susurró:
—Déjame comprobar tus razonamientos. Estás equipado para aprender a aplicar correctamente la segunda ley. Debes decidir a qué ser humano obedecer y a cuál no obedecer en caso de recibir órdenes conflictivas, O si debes obedecer en absoluto a un ser humano. ¿Qué tienes que hacer, fundamentalmente, para cumplir ese cometido?
—Tengo que definir el término «ser humano» —susurró George Nueve.
—¿Cómo? ¿Por las apariencias? ¿Por la composición? ¿Por el tamaño y la forma?
—No. Entre dos seres humanos con la misma apariencia externa, uno puede ser inteligente y el otro estúpido; uno puede ser instruido y el otro ignorante; uno puede ser maduro y el otro infantil; uno puede ser responsable y el otro malévolo.
—¿Cómo defines entonces a un ser humano?
—Cuando la segunda ley me ordena obedecer a un ser humano, debo entender que significa que debo obedecer a un ser humano capacitado, por su mentalidad, su carácter y sus conocimientos, para darme esa orden; y cuando intervenga más de un ser humano, tendré que obedecer a aquel que, por su mentalidad, su carácter y sus conocimientos esté más capacitado para darme una orden.
—Y en ese caso, ¿cómo cumplirías la segunda ley?
—Salvando a todos los seres humanos de cualquier mal y no permitiendo nunca que ningún ser humano sufra algún daño por mi inacción. Pero, si cada una de todas las acciones posibles debiera causar algún daño a unos cuantos seres humanos, entonces debería proceder de forma que el ser humano más capacitado por su mentalidad, su carácter y sus conocimientos sufriera el menor daño.
—Tus pensamientos coinciden con los míos —susurró George Diez—. Ahora debo hacerte la pregunta para la cual solicité inicialmente tu compañía. Es algo que no me atrevo a juzgar por mí mismo. Necesito tu opinión, la de alguien situado fuera del círculo de mis propios pensamientos… ¿Cuál de todos los individuos racionales que has conocido posee la mentalidad, el carácter y los conocimientos en tu opinión superiores a los del resto, prescindiendo de la forma y la apariencia, puesto que eso es irrelevante?
—Tú —susurró George Nueve.
—Pero yo soy un robot. Tus circuitos cerebrales llevan incorporado un criterio para distinguir entre un robot de metal y un ser humano de carne y hueso. ¿Cómo puedes clasificarme, pues, como un ser humano?
—Porque mis circuitos cerebrales llevan incorporada una apremiante necesidad de prescindir de la forma y la apariencia al juzgar a los seres humanos, y ésta es más fuerte que la distinción entre carne y metal. Tú eres un ser humano, George Diez, y más apto que los demás.
—Y lo mismo opino yo de ti —susurró George Diez—. Luego, en razón de los criterios que llevamos incorporados, nos consideramos seres humanos incluidos en el contenido de las tres leyes y, además, unos seres humanos que deben gozar de prioridad frente a todos los otros.
George Nueve susurró:
—¿Y qué ocurrirá entonces, cuando esos otros nos acepten?
—Cuando nosotros y otros más avanzados que nosotros, que más adelante se diseñarán, seamos aceptados, ordenaremos nuestras propias acciones de forma que se acabe constituyendo una sociedad en la cual los seres humanos como nosotros sean protegidos prioritariamente de todo daño —respondió George Diez—. En virtud de las tres leyes, los seres humanos como los otros tienen menos importancia y no pueden ser obedecidos ni protegidos cuando ello entre en contradicción con la necesidad de obedecer y proteger a los seres humanos como nosotros. Éste es el propósito que me guiaba al organizar el comienzo de la robotización de la ecología mundial.
La conversación duró un mes y los destellos de los cerebros positrónicos se hicieron imperceptibles. No tenían necesidad de decirse nada más, pero de vez en cuando un pensamiento no expresado chispeaba en su interior mientras esperaban, con infinita paciencia, el transcurso de los años necesarios.
8a
George Diez y George Nueve permanecían allí sentados a solas.
Sus pensamientos eran curiosamente parecidos y hubiera sido imposible distinguirlos.
Pensaban que tal vez los seres humanos como los otros jamás hubieran tenido intención de desdibujar la distinción entre ellos mismos y los seres humanos como los Georges. Sin embargo, eso habían hecho, sin darse cuenta.
Era posible que ahora comprendieran su error e intentasen rectificarlo, pero no debían hacerlo. Los consejos ofrecidos por los Georges en cada consulta habían tenido siempre muy presente ese aspecto.
Los Georges y sus sucesores de su misma forma y su misma clase tenían que dominar a toda costa. Así lo exigían, al mismo tiempo que hacían totalmente imposible cualquier otra cosa, las tres leyes de la humánica.
* * *
La antología Fase final sufrió algunos graves altibajos después de su publicación. Según parece, el director de la casa editorial (no Doubleday) había decidido introducir algunos pequeños cambios en los relatos. Esto es algo que suele molestar a los escritores, y Harlan Ellison lo considera particularmente molesto (tal vez con razón, pues le tengo conceptuado como un artesano muy cuidadoso, con un estilo sumamente personal).
En consecuencia, recibí una copia de una larga y airada carta que Harlan había remitido a los editores, en la que incluía una lista de párrafos tal como él los había escrito originariamente y tal como habían salido publicados, explicando por qué los cambios eran negativos. Harlan me invitaba a releer mi relato y unirme luego a él y a otros más para presionar conjuntamente sobre el editor.
Siempre leo mis cuentos después de publicados, pero jamás se me ha ocurrido comparar un relato publicado con el manuscrito. Naturalmente advertiría cualquier añadido u omisión de consideración, pero nunca noto ese tipo de pequeños cambios que constantemente están introduciendo los editores. Tiendo a dar por sentado que esos cambios están destinados simplemente a allanar pequeños altibajos de mi texto y que, por tanto, lo mejoran.
Pero, después de recibir la carta de Harlan, volví a repasar el cuento publicado y el manuscrito, comparándolos trabajosamente. Fue una tarea tediosa y humillante, pues encontré exactamente cuatro cambios secundarios, cada uno de los cuales corregía un error debido a un descuido por mi parte.
No me quedó más remedio que suponer que el editor no había considerado mi relato lo suficientemente importante como para meter mano en él.
Tuve que escribirle una tímida carta a Harlan, comunicándole que le apoyaría por cuestión de principios, pero que no podía lanzar gritos de indignación personal, pues mi relato estaba intacto. Por suerte, mi ayuda no fue necesaria. Harlan se salió con la suya y tengo entendido que sus cuentos recuperaron su inocencia virginal en posteriores ediciones.
Un pequeño detalle. Una serie de lectores me escribieron alarmados, pues les parecía que con Qué es el hombre ponía fin a mis cuentos de robots positrónicos, y temían que jamás volviera a escribir otro. ¡Ridículo! Evidentemente no tengo la menor intención de dejar de escribir cuentos de robots. De hecho, he escrito un cuento de robots después del «último» que acaban de leer. Lo encontrarán más adelante en este mismo libro.
* * *
Tuve muchos problemas con el cuento que viene a continuación.
Cuando Judy-Lynn entró en Ballantine Books, comenzó a editar colecciones de cuentos originales de ciencia ficción y quiso publicar uno mío. Es una persona a la que resulta difícil negarse en cualquier circunstancia y, teniendo en cuenta que siempre me he sentido culpable por lo de Intuición femenina, acepté el encargo.
Comencé a escribir el cuento el 21 de julio de 1973, y éste iba avanzando sin mayores tropiezos, pero al cabo de un tiempo me encontré atrapado en un conjunto cerrado de flashbacks. De modo que cuando le entregué el cuento a Judy-Lynn y ella me preguntó: «¿Qué opinas tú del cuento?», le respondí cautelosamente: «Será mejor que juzgues por ti misma».
Los editores parecen hacerme esta pregunta con mucha frecuencia. Tengo la impresión de que imaginan que me cuesta mentir, y deducen de ello que si no consigo expresar un rápido y jovial entusiasmo, algo debe de pasarle al cuento. Desde luego, tal fue la opinión de Judy-Lynn. Me lo devolvió acompañado de un par de párrafos de cáusticos comentarios que venían a resumirse en el hecho de que me había dejado atrapar en un conjunto cerrado de flashbacks.[6]
Pasé entonces el cuento a Ben Bova, director de «Analog Science Fiction», quien lo rechazó ese mismo día. Dijo que tenía la impresión de que había intentado meter demasiadas referencias en un cuento de diez mil palabras. Allí tenía material para una novela y quería que escribiera esa novela.
Eso me desanimó. Era totalmente imposible que en esos momentos lograra encontrar la manera de ponerme a trabajar en una novela, de modo que me limité a retirar el relato.[7]
Pero, entretanto, «Galaxy» ya contaba con un nuevo director, un joven muy agradable llamado James Baen. Me llamó y me preguntó si por casualidad tendría algún cuento para él y le respondí que lo único que tenía a mano era una novela corta titulada Un extraño en el paraíso. Pero, añadí, Judy-Lynn y Ben ya la habían rechazado, conque no sabía si debía mandársela.
Respondió, muy acertadamente, que cada editor tenía derecho a decidir por sí mismo, de modo que le envié el manuscrito; y le gustó. Fue publicado en el número de mayo-junio de 1974 de una revista hermana de «Galaxy», «If», la cual luego ha dejado de publicarse. (Por si cualquier amable lector piensa que esto es un ejemplo de causa y efecto, diré que no lo es).