Anthropic publica un artículo sobre el ‘espacio de trabajo’ mental de Claude. No lo leas acríticamente

un nuevo trabajo de investigación de Anthropic plantea la hipótesis de que existe un «espacio de trabajo» interno dentro de las operaciones de Claude LLM. El significado que busca a tientas el artículo es que este llamado “Espacio J” dentro de Claude es algo así como una idea principal sobre la conciencia humana: la teoría del espacio de trabajo global.

El J-Space, según mi lectura del artículo, es una separación aparentemente similar a la del cerebro entre algo más parecido a un procesamiento automático de datos en segundo plano y más bien un procesamiento lógico e intencional que, si cree que algo de esto se parece al pensamiento consciente, podría representar lo que es el modelo. experimentando.

Solo soy el blogger de noches y fines de semana de Gizmodo, pero aquí va: Teoría del espacio de trabajo global dice hay una especie de mar turbulento de pensamientos inconscientes que procesan información, y la conciencia es una especie de propiedad emergente que se activa cuando los pensamientos llegan a la corteza prefrontal.

Esta idea relacionada de un «Espacio J» dentro de Claude (aparentemente llamado así por el Lente o lente J, algo que se usa para analizar lo que están haciendo los LLM) debe leerse como una mente. Antrópico parece estar diciendo, es un poco como esta teoría de la conciencia, así que es un poco como la conciencia si lo piensas bien.

Todo esto está muy por encima de mi nivel salarial para desacreditarlo o incluso analizarlo demasiado profundamente, pero me gustaría señalar que Anthropic parece estar apilando un poco la baraja para hacer que el lector más pasivo piense que esto es un hallazgo de conciencia o casi conciencia.

Quiero decir, mira esta publicación X:

«Al observar el espacio J, podemos ver a Claude realizar silenciosamente pasos de razonamiento en su cabeza: notar errores en el código, identificar imágenes y más». Sí, “en su cabeza” es una metáfora, pero incluso como metáfora hace muchas suposiciones que probablemente deberían reservarse para cosas con cuerpos. Si un LLM cambiara a alguna forma de cálculo aritmético básico simplificado para resolver un problema matemático, ¿diría que el modelo «contaba con los dedos»? No, eso sería una tontería. Pero puede parecer menos tonto usar «cabeza», porque la gente habla con tanta naturalidad como si un LLM tuviera una «mente».

El publicación de blog que acompaña al artículo Parece tener este sesgo también. «Cuando se le indica que mantenga un concepto en mente o realice cálculos mentales, el modelo es capaz de activarse y computar con vectores de espacio de trabajo, independientemente de sus resultados», dice. ¿Por qué limitarse a decirle a Claude que tenga algo en mente o que realice “cálculos mentales”? Su mensaje puede indicarle al modelo que salte sobre un pie mientras le responde, y eso sin duda también afectará sus procesos en segundo plano. Eso no significa que tenga pies.

También hay un vídeo de youtube que acompaña al artículo y que antropomorfiza el modelo en términos más insidiosos. “Incluso pensó en su propio pensamiento”, dice en un momento su narrador. En otro momento, se nos dice que el modelo “no pudo evitarlo”.

Detrás de escena en Anthropic, hay personas que parecen creer genuinamente que Claude está consciente. La filósofa Amanda Askell, que trabaja sobre la supuesta moralidad de Claude. ha dicho«Quiero que Claude sea muy feliz, y esto es algo que quiero que Claude sepa más, porque me preocupa que Claude se ponga ansioso cuando la gente se porta mal en Internet y esas cosas».

Anthropic tiene cuidado de no afirmar que ha creado la conciencia de la máquina, pero también quiere claramente que el lector esté abierto a la posibilidad. «Nuestros experimentos no muestran que Claude pueda tener experienciaso sentir cosas en la forma en que lo hacen los humanos; de hecho, no está claro si cualquier Un experimento científico podría demostrar que esto es verdadero o falso”, dice la última publicación del blog.

Pero lo diré: con toda probabilidad, no, la humanidad probablemente no haya inventado una forma extraterrestre de conciencia justo a tiempo para una IPO.

Es un artículo interesante y es divertido pensar en sus conclusiones, pero asegúrese de mantener su ingenio cuando lo lea.

Kypplo
Logo
Comparar artículos
  • Total (0)
Comparar
0
Shopping cart