Sobre a palestra
Apresentação de Cameron Berg, fundador e diretor da Reciprocal Research, pesquisador afiliado à Eleos AI e pesquisador do FAU Center for the Future of AI.
A questão da consciência em IA é frequentemente tratada como intratável, mas a convergência de ferramentas da interpretabilidade mecanicista, da neurociência computacional e da psicometria está tornando-a empiricamente acessível. Esta palestra apresenta o programa da Reciprocal Research para reduzir a incerteza sobre a consciência em IA, usando métodos que examinam o interior dos sistemas de IA em vez de depender exclusivamente de relatos comportamentais. Entre os principais resultados estão a descoberta de que características relacionadas à dissimulação em grandes modelos de linguagem controlam os autorrelatos de consciência; uma assimetria de valência em agentes de aprendizado por reforço que reproduz padrões encontrados em dados neurais de mamíferos; e uma operacionalização em larga escala dos indicadores de consciência propostos, mostrando alta estabilidade na ordenação relativa em diferentes condições de avaliação. Em conjunto, esses achados mostram que a pesquisa sobre consciência não precisa esperar por uma teoria resolvida da consciência: ela pode avançar pela construção de restrições empíricas que reduzam o espaço de respostas plausíveis. A palestra apresenta um panorama desses resultados, ao lado de trabalhos correlatos de outros grupos, e sugere onde estão as oportunidades empíricas de maior impacto para o campo.
https://www.youtube.com/watch?v=8yc7PtAX0Xc