@Trauma Pues ahora que la has aprendido, espero que la uses en tu día a día: "Son incognoscibles los efectos que podría tener aplicar este parche en producción".
@NicolasOñate Hay varios problemas a resolver antes de eso: 1) No se sabe si las conversaciones están manipuladas por el ingeniero 2) El propio ingeniero indicó que los parámetros de entrada eran "compórtate como una IA que ha tomado consciencia"
Respecto al segundo punto, LaMDA es un generador de chatbots que el chatbot se comportará como lo que se le pida... si se le pide que se comporte como Abraham Lincoln ¿implica que ES Abraham Lincoln? y ¿Si se comporta como si tuviese consciencia implica que tiene consciencia? Para ambas cosas debe tener conocimiento de cosas "abstractas" pero tener ese conocimiento no implica consciencia propia.
@Pikoh No hay películas que presenten a los programadores de manera realista pero dentro de las que se aproximan estaría (en mi ranquin personal) 1) Conspiración en la red 3) Ex Machina
@PaperBirdMaster es abstracto el tema, en que momento decimos que algo es consciente? Una hormiga no tiene consciencia en si, pero un hormiguero es consciente en el conjunto de los individuos, pero si buscamos una consciencia "humana" en un hormiguero jamas la encontraremos, se puede aplicar esto mismo a las maquinas conscientes?
@NicolasOñate No estamos intentando generar una IA de hormiguero si no una IA humana, así que evaluaremos en base a lo que creemos que es humano no en base a lo que creemos que es hormiguero.
@NicolasOñate Tendré que preguntarle a Sarah Kerrigan.
@PaperBirdMaster partamos de que por medio de estimulos externos, en este caso un chat, estamos compartiendo información, en este caso un debate sobre la consciencia, bien, pues nuestra consciencia esta sesgada a lo que uno individualmente percibe del exterior y lo interprete, tu estas interpretando que mi duda existencial es una negativa hacia la realidad, cuando para mi es una pregunta sin respuesta que entra dentro del paradigma filosófico. Lo que quiero decir con esto es:
¿En que momento sabemos que algo es consciente?
¿Cómo sabemos a ciencia cierta que esa afirmación del ingeniero es cierta o no?
@NicolasOñate No lo sabemos, podría ser que lo que publicó estuviera manipulado. Pero aún no estándolo no sería suficiente para saber que esa instancia de esa IA es consciente.
@NicolasOñate Pues ni soy ingeniero de IA ni psicólogo, así que en mis premisas habrán lagunas, pero yo empezaría por poner a prueba la capacidad de recordar eventos pasados, enlazar esos eventos con sucesos presentes y con previsiones de eventos futuros, asegurando que en todos esos eventos la IA tiene participación
Por ejemplo: sacar una conversación anterior (cuanto más anterior mejor) cambiándola de contexto y ver cómo reacciona la IA, una buena prueba sería intercambiar los participantes de la conversación (IA y humano) y ver si la IA corrige
- ¿Recuerdas cuando dijiste que los leprecauns son veganos? - Yo no dije eso, lo dijiste tú.
O
- Quiero volver a hablar de cuánto disfruto hablando de arte. - Fui yo quien decía disfrutar hablando de arte.
@PaperBirdMaster sería un buena prueba, sin haberla entrenado para ello introducirla en un chat para ver como se desenvuelve con varios participantes
porque no es lo mismo una conversacion tu a tu, que una charla entre varios
@PaperBirdMaster eso con un guardado en memoria es facil
si parte de que ha sido entrenada y esta siendo entrenada con muchos textos, por que no tu conversación anterior?
Yo la mandaria deberes, en plan para mañana quiero un analisis de lo que hemos estado hablando y si lo realiza es que tiene memoria, asi que ya sumaria un punto a la conciencia
@NicolasOñate Correcto. Y ahí está el tema. Tú puedes separar el tú del no-tú en base a lo que recuerdas y puedes saber que tú no has hablado conmigo de la palabra incognoscible de manera que si te interrogase sobre ese hecho probablemente me corregirías.
@PaperBirdMaster o se puede camuflar en un no lo recuerdo y partir del hecho de que en mi memoria no existe, sea o no cierto que hayamos hablado de ello
porque esa es otra, no nos acordamos de todo
si no de cosas que consideramos importantes
o que nuestro cerebro considera que es importante, mejor dicho
porque hay cosas importantes de las cuales no me acuerdo
Bueno, en resumen, creo que llegar a la conclusion sobre que algo es consciente es un tema complejo de narices al ser un concepto abstracto
Por mucho test que pase, por mucho que recuerde la conversación y que sus respuestas sean coherentes y que te corrija los errores fácticos, por muy indistinguible que sea de una persona, será imposible demostrar que "es consciente". ¿Conoceis la paradoja de la habitación china?
en realidad, ni siquiera tengo forma de probar de que nadie, aparte de mi mismo, sea consciente. Y en realidad ni siquiera puedo probar que yo mismo lo sea. Salvo la ineludible sensación de que lo soy (lo que me lleva a extrapolar que el resto de seres humanos también)