El desarrollo de la IA es una amenaza real porque hay un momento justo antes de que se desarrolle la verdadera IA, donde se vuelve realmente peligroso. Desafortunadamente, aquí es donde estamos ahora.
Este es el punto donde el dispositivo es lo suficientemente inteligente como para resolver un problema, pero no lo suficientemente inteligente como para cuestionar si ese problema debe resolverse en primer lugar. En otras palabras, es lo suficientemente inteligente como para obedecer una orden pero no lo suficientemente inteligente como para cuestionar la validez de esa orden.
Como ejemplo, ahora es posible programar una bomba inteligente para que explote de tal manera que mate al mayor número de enemigos, pero la bomba no es lo suficientemente inteligente como para poder preguntar por qué querríamos hacer eso en primer lugar .
- Si Estados Unidos es un lugar tan horrible para quedarse en ese entonces, ¿por qué tanta gente en los países desarrollados y en desarrollo lo idealiza y quiere ir allí?
- ¿Por qué ser tan reservado e introvertido en los Estados Unidos es tan estigmatizado en comparación con otros países desarrollados?
- Ningún país fue perfecto, ¿crees que describir un país como 'en desarrollo', cuando podría haber estado mejor antes de la colonización, retorcido?
- ¿Cuál es la nación menos desarrollada de Europa?
- ¿Cuántos de ustedes piensan que PM Modi podrá hacer de 'India' un país desarrollado hasta 2020?
Este es un tema seguido en la película “Juegos de guerra”. Cerca del final de la película, el general tiene el desafío de dejar de pensar como una computadora y preguntar por qué. “¿Por qué los rusos atacarían así? ¿Dónde está el sentido?” No solo reacciones, pregunta.
Podrías llamar legítimamente a esto “Inteligencia de drones” porque este es el nivel al que operan los drones de insectos. También es legítimo ya que ahora llamamos drones a dispositivos inteligentes. También podría llamarse legítimamente Einstein Intelligence porque Einstein mostró una falta similar de inteligencia completa que provocó la cita.
La liberación del poder atómico ha cambiado todo excepto nuestra forma de pensar … la solución a este problema radica en el corazón de la humanidad. Si tan solo hubiera sabido, debería haberme convertido en relojero
En otras palabras, no es más probable que vayamos a la guerra porque Skynet lo elige, pero porque no hay Skynet que diga “¿Por qué haces esto? ¿Dónde está la lógica? La solución a este problema no es una solución inteligente”.
La razón por la que creo que esto se debe a esto:
¿Cuándo se consideraría la respuesta inteligente a cualquier problema la destrucción total, indiscriminada e incontrolada de los recursos y los medios para producir más recursos?
Es solo el imbécil que piensa que son lo suficientemente inteligentes como para discriminar y controlar la destrucción de recursos a los de su enemigo sin incurrir en consecuencias imprevistas, que es lo suficientemente estúpido como para intentar esta respuesta. Pero el hecho de que siempre haya consecuencias imprevistas muestra la falla en ese razonamiento.
Gracias por la A2A, Charles