El lunes, el creador de Ethereum, Vitalik Buterin, reflexionó sobre su propia visión del “tecnooptimismo”, inspirado en Marc Andreessen, quien opinó sobre la IA en su Manifiesto Tecnooptimista de octubre. Si bien Buterin estuvo de acuerdo con la perspectiva positiva de Andreessen, Buterin también destacó la importancia de cómo se desarrolla la IA y la dirección futura de la tecnología. Buterin reconoció el riesgo existencial de la inteligencia artificial, incluida la causa de la extinción de la raza humana. “Esta es una afirmación extrema: como Por mucho daño que podría causar el peor escenario de cambio climático, o una pandemia artificial o una guerra nuclear, hay muchas islas de civilización que permanecerían intactas para recoger los pedazos”, dijo. “Pero una IA superinteligente, si decide volverse contra nosotros, es posible que no deje supervivientes y acabe con la humanidad para siempre”, afirmó Buterin. “Incluso Marte puede no ser seguro”. Buterin señaló una encuesta de 2022 realizada por AI Impacts, que decía que entre el 5% y el 10% de los participantes creen que los humanos se enfrentan a la extinción debido a la IA o a la incapacidad de los humanos para controlarla, respectivamente. Dijo que un movimiento de código abierto centrado en la seguridad es ideal para liderar el desarrollo de la IA en lugar de corporaciones cerradas y propietarias y fondos de capital de riesgo. “Si queremos un futuro que sea a la vez superinteligente y «humano, uno en el que los seres humanos no sean sólo mascotas, , pero en realidad conserva una agencia significativa sobre el mundo, entonces parece que algo como esto es la opción más natural», dijo. Lo que se necesita, continuó Buterin, es la intención humana activa de elegir su dirección y resultado. «La fórmula de ‘maximizar las ganancias’ no les llegará automáticamente», dijo. Buterin dijo que ama la tecnología porque expande el potencial humano, señalando la historia de las innovaciones, desde herramientas manuales hasta teléfonos inteligentes. «Creo que estas cosas están profundamente bueno, y que expandir el alcance de la humanidad aún más hacia los planetas y las estrellas es profundamente bueno, porque creo que la humanidad es profundamente buena”, dijo Buterin. Buterin dijo que si bien cree que la tecnología transformadora conducirá a un futuro más brillante para la humanidad, rechaza la noción de que el mundo debería seguir como está hoy, sólo que con menos codicia y más atención sanitaria pública. “Hay ciertos tipos de tecnología que hacen que el mundo sea mejor de manera mucho más confiable que otros tipos de tecnología”, dijo Buterin. «Hay ciertos tipos de tecnología que, si se desarrollan, podrían mitigar los impactos negativos de otros tipos de tecnología». Buterin advirtió sobre un aumento del autoritarismo digital y la tecnología de vigilancia utilizada contra quienes desafían o disienten del gobierno, controlado por un pequeño camarilla de tecnócratas. Dijo que la mayoría de la gente preferiría que la IA altamente avanzada se retrasara una década en lugar de ser monopolizada por un solo grupo. “Mi temor básico es que se utilicen los mismos tipos de tecnologías de gestión que permiten a OpenAI atender a más de cien millones de clientes con 500 empleados. También permitirá que una elite política de 500 personas, o incluso una junta directiva de 5 personas, mantenga un puño de hierro sobre todo un país”, dijo. Aunque Buterin dijo que simpatiza con la aceleración efectiva (también conocida como «e/acc «), tiene sentimientos encontrados sobre su entusiasmo por la tecnología militar.“El entusiasmo por la tecnología militar moderna como una fuerza para el bien parece requerir creer que la potencia tecnológica dominante será confiablemente uno de los buenos en la mayoría de los conflictos, ahora y en el futuro. el futuro”, dijo, citando la idea de que la tecnología militar es buena porque está siendo construida y controlada por Estados Unidos y Estados Unidos es bueno. “¿Ser un e/acc requiere ser un maximalista de Estados Unidos, apostar todo tanto por el presente como por el futuro del gobierno? ¿La moral y el éxito futuro del país? Buterin advirtió contra dar “poder extremo y opaco” a un pequeño grupo de personas con la esperanza de que lo utilicen sabiamente, prefiriendo en cambio una filosofía de “d/acc”—o defensa, descentralización, democracia y diferencial. Esta mentalidad, dijo, podría adaptarse a altruistas, libertarios, pluralistas, defensores de blockchain y punks solares y lunares efectivos. “Un mundo que favorece la defensa es un mundo mejor, por muchas razones”, dijo Buterin. «En primer lugar, por supuesto, está el beneficio directo de la seguridad: mueren menos personas, se destruye menos valor económico, se pierde menos tiempo en conflictos». Para que prosperen más formas de gobernanza que respeten la libertad», concluyó. Si bien enfatizó la necesidad de construir y acelerar, Buterin dijo que la sociedad debería preguntarse periódicamente hacia qué estamos acelerando. Buterin sugirió que el siglo XXI puede ser «el siglo crucial» para la humanidad que podría decidir el destino de la humanidad durante milenios. «Estos son problemas desafiantes», dijo Buterin. «Pero espero con ansias observar y participar en el gran esfuerzo colectivo de nuestra especie para encontrar las respuestas». Editado por Ryan Ozawa.
