Na mais recente vaga de empregos lançados pela Open AI, uma das organizações mais destacadas em Inteligência Artificial do momento, ficámos a saber que há muita procura por investigadores e engenheiros ligados ao machine learning (ML). A missão deles: descobrir formas de controlar e guiar sistemas de IA superinteligentes.
A Superinteligência Artificial (ASI) é diferente da Inteligência Artificial Geral (AGI). Se o AGI é uma máquina que consegue desempenhar diferentes tarefas intelectuais de modo parecido ao de um humano, a ASI vai além disso e consegue atribuir capacidades intelectuais às máquinas que são superiores às dos humanos.
Ainda que a superinteligência tenha potencial para resolver muitos dos assuntos mais prementes que enfrentamos atualmente no nosso mundo, antes de chegarmos a um cenário de superinteligência artificial ainda teremos muito que desenvolver.
Ainda assim, a OpenAI, que é conhecida por ter criado o ChatGPT, já veio dizer que mesmo que a superinteligência pareça um desenvolvimento distante, ela poderá chegar ainda esta década. O poder da superinteligência poderá representar algumas ameaças, inclusive para a própria sobrevivência e soberania dos humanos.
Para lidar com estes riscos, o corpo de executivos da OpenAI está a tentar constituir um corpo regulador internacional em IA. Também pretende lançar outras soluções e novas estratégias para combater os problemas que irão surgir dos “excessos da superinteligência”: como poderão os sistemas IA superinteligentes, que ultrapassam até os humanos, ser guiados para cumprirem com os nossos propósitos?
Trabalhos na OpenAI: Vaga de recrutamentos para esta tarefa monumental
A OpenAI está a procurar investigadores em ML e engenheiros para trabalharem sobre a noção de “superalinhamento”. A empresa encara o alinhamento da superinteligência como um problema de ML, que pode ser resolvido por especialistas de topo em ML, mesmo que não tenham experiência anterior nesta área.
“Resolver o problema inclui fornecer evidência e argumentos que possam convencer a comunidade envolvida em machine learning e na sua segurança de que foi encontrada uma solução. Se falharmos em atingir altos níveis de confiança nas nossas soluções, esperamos que as nossas descobertas e a comunidade nos permitam planear os próximos passos de forma apropriada” – OpenAI.
Desafios no recrutamento em trabalhos na IA: trabalhos da OpenAI estão em destaque
À luz da tarefa monumental que significa controlar e guiar sistemas superinteligentes de IA, o recrutamento da OpenAI está a atrair atenção global. O processo de recrutamento da OpenAI foca-se em contratar investigadores em ML e engenheiros, o que é o reflexo de uma escassez destas profissões na indústria tecnológica global.
Os maiores desafios no recrutamento de talento em IA têm que ver com a contratação de cientistas de dados em IA e profissionais de ML. De acordo com dados de 2022, 78% dos inquiridos consideraram ser muito difícil, ou algo difícil, contratarem cientistas de dados em IA. Já 70% referiram enfrentar dificuldades semelhantes na contratação de profissionais em ML.
Estes dados vêm sugerir que os trabalhos na OpenAI, particularmente os trabalhos para especialistas em ML, estão entre os mais competitivos do mercado e é onde há mais procura.
Com os sistemas de superinteligência a tornarem-se cada vez mais falados, a competição por talento em IA intensifica-se. Há ambições grandes do lado da OpenAI e do lado da indústria tecnológica como um todo, e nunca como agora fez tanta falta a investigação, a engenharia e o conhecimento nesta área.
Os limites dos métodos atuais em alinhamento IA, e a procura de novas abordagens
As metodologias atuais em alinhamento IA, que são usadas em modelos como o GPT-4 (a tecnologia que está na base do ChatGPT), dependem muito de aprendizagens reforçadas e de feedback humano. Estas técnicas assumem que a observação humana pode gerir as atividades da IA.
Contudo, estas assunções podem não ser realistas quando lidamos com IA mais inteligência do que os seus observadores humanos, podendo até haver tentativas de manipulação, engano e ilusão envolvidos.
Estas preocupações sugerem que devem ser abordadas novas estratégias para lidar com a superinteligência, desenvolvendo novas tecnologias e técnicas.
“O nosso objetivo é construir um investigador que esteja à altura de um humano para alinhamento automático” – OpenAI
OpenAI Jobs: Can You Steer Superintelligent AI to Follow Human Intent?
Notícias relacionadas
- Influencers norte-coreanos estão a ser removidos do YouTube – Utilizador de 11 anos banido por propaganda
- Inteligência artificial está a criar emprego em San Franciso, não a eliminá-lo
AiDoge (Ai) - Plataforma de Geração de Memes
- Crie e compartilhe memes gerados por IA
- A mais nova memecoin no setor de criptomoedas de IA
- Pré-venda disponível agora - aidoge.com
- Sistema de crédito baseado em token
- Aposte $Ai Tokens para ganhar recompensas diárias