#64 Ilya Sutskever - Co-fundador e Líder do Time de “Superalinhamento” - deixa a OpenAI, 5 Novidades de AI da Microsoft e Inteligências Artificiais Mais Criativas que 99% dos Humanos
Seja bem-vindo(a) a mais uma newsletter do Revolução AI. Aqui você não perde nada sobre o universo das Inteligências Artificiais Generativas!
A edição de hoje está cheia de assuntos interessantes e relevantes! Os temas de hoje são:
Ilya Sutskever, co-fundador e líder do time de “superalinhamento” na OpenAI, deixa a empresa; 5 novidades de AI da Microsoft; Inteligências Artificiais superando 99% dos humanos em tarefas criativas; Teste novos modelos do Google; Aprenda mais sobre AI no cotidiano e no trabalho.
News
Ilya Sutskever, co-fundador e líder do time de “superalinhamento” na OpenAI, deixa a empresa
Ilya Sutskever - co-fundador, cientista chefe e líder do time de Superalinhamento na OpenAI - acaba de deixar a empresa junto com Jan Leike - também líder da equipe de Superalinhamento - e outros funcionários.
A principal e mais provável razão para o ocorrido diz respeito a uma discordância de opiniões entre eles e os principais líderes da empresa, como Sam Altman e Greg Brockman, acerca de como abordar e lidar com a segurança dos modelos de AI.
Esse acontecimento é muito mais importante e profundo do que parece à primeira vista. E para compreender toda a situação precisamos voltar para Julho de 2023.
Nesta época, a OpenAI anunciou a criação do time de superalinhamento.
Superalinhamento… Afinal, o que é isso?
É impossível entender esse termo sem falar de superinteligência.
Superinteligência pode ser definida como uma inteligência que supera a capacidade humana em todas as áreas. Sendo assim, um sistema superinteligente seria mais capaz do que todos os seres humanos em absolutamente qualquer tarefa intelectual. Dependendo do nível de superinteligência, talvez muito mais capaz.
Até hoje, não existe (ou não conhecemos) nenhum ser ou tecnologia que seja mais inteligente que nós humanos.
Mas muitos acreditam que os modelos de Inteligência Artificial estão caminhando para se tornarem, breve, superinteligentes. E os que pensam isso não são teoristas da conspiração, nem nada do tipo, a própria OpenAI pensa que poderemos atingiremos esse nível de inteligência ainda nesta década.
É difícil compreender o que essa superinteligência representaria para nós.
Imagine uma entidade com capacidade intelectual centenas de vezes superior à nossa, capaz de manipular o mundo físico de maneiras que sequer podemos conceber - para o bem e para o mal. Se essa entidade não estiver alinhada com os nossos valores e objetivos, as consequências podem ser catastróficas.
Assim, a grande pergunta é: como controlar um sistema superinteligente?
É ai que entra o superalinhamento!
A ideia central do superalinhamento é garantir que sistemas de AI muito mais inteligentes que humanos continuem a seguir a intenção humana e não se tornem "descontrolados" ou perigosos.
Assim, tentando solucionar esse desafio, a OpenAI criou, há cerca de um ano o seu time de superalinhamento que mencionei.
Liderado por Sutskever e Leike, o time tinha como meta solucionar o problema do alinhamento da superinteligência em quatro anos.
A ideia era desenvolver um sistema de AI que agisse um "pesquisador de alinhamento automático". Esse “pesquisador automático” buscaria alinhar o comportamento de outros modelos de AI e, desta forma, testaria e aprenderia, em escala, os métodos de alinhamento mais eficazes.
Seria um processo constante, onde o sistema estaria sempre aprimorando suas técnicas, afim de garantir o alinhamento de modelos novos e mais avançados.
Essa abordagem parecia promissora e a OpenAI prometeu dedicar 20% de seu poder computacional para essa pesquisa de superalinhamento. Um comprometimento bem alto.
No entanto, isso não se traduziu na prática.
Haviam divergências internas sobre como lidar com a segurança das AIs - Altman e Brockman, por exemplo, acreditam que o melhor caminho é lançar modelos e produtos rapidamente, testá-los na prática e aprimorá-los, enquanto Sutskever prefere uma abordagem mais cautelosa.
E é provável que Sam Altman estava mais focado no desenvolvimento de novos modelos do que na segurança do que estava sendo desenvolvido.
Com isso, o time de superalinhamento não recebeu a atenção nem os recursos necessários e tal fato levou à saída de seus dois líderes do time da OpenAI.
Jan Leike anunciou sua saída em alguns tweets, ressaltou as diferenças de prioridades dele e das lideranças da empresa e falou sobre o projeto não ter recebido a prioridade que deveria e da importância de resolver a questão do alinhamento das AIs.
Segundo ele, a OpenAI não está na direção correta para resolver esse problema a tempo e é muito importante que isso mude.
Sam e Greg também postaram em suas contas reconhecendo as contribuições de Ilya e Jan e concordando que ainda há muito a ser feito para garantir a segurança de futuros modelos.
E nessa semana, em resposta a tudo isso, a OpenAI anunciou Jakub Pachocki como novo Chief Scientist e publicou um relatório explicando como está abordando as questões de segurança - você pode lê-lo aqui.
Mas tudo indica que o time de superalinhamento acabou e a empresa perdeu duas das maiores mentes da atualidade para trabalhar nisso.
De qualquer maneira, a minha ideia em trazer esse tema na newsletter de hoje não foi gerar medo ou dúvida em ninguém, mas gerar uma reflexão sobre o potencial e riscos do que estar por vir.
Esses temas parecem muito distantes - eu mesmo nem dava atenção para isso até pouco tempo -, mas com a velocidade do progresso tecnológico, eles se tornarão reais muito antes do que imaginamos.
Apesar da incerteza do que vem por aí, sou bastante otimista e acredito que encontraremos boas soluções para os problemas que ainda nem conhecemos. Não é isso que a humanidade sempre fez?
5 novidades de AI da Microsoft
Se semana passada a OpenAI e o Google realizaram eventos e anunciaram grandes novidades sobre AI, nesta semana está sendo a vez da Microsoft.
Está acontecendo o Microsoft Build 2024. Realizado em Seattle, o evento começou na segunda-feira (20) e irá até quinta-feira (23).
Apesar do evento ainda estar em andamento, já temos uma série de novidade muito interessantes para tratar aqui. Dividi as novidades em duas: o novo PC feito para AI e atualizações no Copilot.
O novo PC+Copilot
A Microsoft acaba de anunciar uma nova categoria de PCs Windows projetados para AI, os PCs+Copilot.
Esses computadores serão fabricados por empresas como Acer, ASUS, Dell, HP, Lenovo e Samsung e possuem um novo tipo de arquitetura que une CPU, GPU e uma nova unidade de processamento neural (NPU) de alto desempenho.
Com essa capacidade de processamento, é possível rodar uma série de modelos de AI localmente nesses computadores e com muita eficiência e rapidez.
Isso, além de garantir maior privacidade ao usuário, desbloqueia uma série de aplicações novas para esses PCs. Dá só uma olhada em algumas dessas novidades:
Recall: essa função dos novos PCs permite que o usuário autorize o aplicativo Recall a “observar” tudo o que ele faz em seu computador, 100% do tempo (se quiser). O app tirará milhares de prints da sua tela e armazenará-los em sua memória.
Assim, você pode usar da AI dele para perguntar sobre qualquer coisa que você fez em seu computador - “quem me mandou X e-mail?”, “em que parte do documento Y eu li Z?”. Olha como é na prática.
É como uma memória fotográfica praticamente perfeita e a seu serviço. E o melhor, sem riscos de privacidade, pois o modelo de AI que lida com isso está rodando no próprio computador.
App do Copilot: todo novo PC agora vem com o app do Copilot - para quem não sabe o Copilot é o antigo Bing AI e é como o ChatGPT da Microsoft -, que agora utiliza o novo modelo GPT-4o.
Com esse app do Copilot, usando as funções de visão e voz do GPT-4o, é possível que o assistente de AI assista o que você faz no seu computador, enquanto você conversa com ele.
Na demonstração do evento, o usuário compartilha a tela com o Copilot enquanto joga Minecraft. Durante o jogo, o assistente vai conversando com o usuário e ajudando com o que ele precisa. Veja o vídeo.
Isso é simplesmente incrível, tanto para o futuro das experiências de jogos online, quando para o futuro do trabalho.
Cocreate: agora o Paint possui a função de gerar imagens com AI. Com a nova função, o usuário pode combinar os seus traços de tinta digital com prompts de texto para gerar novas imagens quase em tempo real com o Cocreator.
À medida que você desenha ou modifica o prompt, a imagem vai se transformando, ajudando você a refinar, editar e desenvolver suas ideias com mais facilidade. Veja o vídeo.
É parecido com o LCM-Lora, que falamos aqui na newsletter há alguns meses.
Copilot e Agentes
Já mencionei o Copilot acima, mas ele merece um tópico próprio para trazer duas novidades. São elas:
Team Copilot: o Copilot para Microsoft 365 - que é o assistente de AI dentro dos apps da Microsoft, como Word, Excel, Outlook, Teams etc - agora está dando um passo além.
O Copilot está passando de um assistente pessoal de AI nos bastidores para um novo membro de sua equipe.
Agora você poderá invocar o Copilot onde colaborar – no Teams, Loop, Planner, etc.
O Team Copilot pode agir como um facilitador de reuniões, gerenciando a agenda, acompanhando o tempo e fazendo anotações. Ele pode atuar como colaborador em bate-papos, revelando informações importantes, rastreando itens de ação e resolvendo problemas não resolvidos. Ele pode servir como gerente de projeto para ajudar a garantir que cada projeto corra bem e notificar a equipe quando sua contribuição for necessária.
Essa evolução é bem interessante e vai de encontro com o que venho falando sobre uma migração de assistentes de AI para agentes de AI.
A novidade será disponibilizada gradualmente nos próximos meses.
Agentes no Microsoft Copilot Studio: a plataforma da Microsoft de criação avançada de Copilots personalizados (para desenvolvedores) está ganhando uma nova função.
Agora é possível construir Copilots de AI que executam ações pelos usuários, podendo gerenciar, de forma autônoma, processos de negócios complexos e de longa duração.
Esses Agentes possuem memória de longo prazo e aprendem de acordo com o feedback dos usuários.
Eles podem ser utilizados tanto para executarem tarefas internas, quanto para atendimento e suporte de clientes.
Estas são apenas algumas das novidades de Inteligência Artificial que foram e serão ainda anunciadas no evento.
Para ler todas as novidades, basta clicar aqui. E para assistir o restante do evento, é só entrar por aqui.
Gostei muito das integrações da que a Microsoft está fazendo entre o hardware, o Windows e os modelos de AI.
Inteligências Artificiais superando 99% dos humanos em tarefas criativas
Na primeira newsletter que postamos, eu escrevi:
“…a maioria das pessoas acreditava que a capacidade de criar coisas novas era uma exclusividade dos seres humanos. Mas com o lançamento de plataformas como ChatGPT, Midjourney, DALL-E-2 e Stable Difusion, tivemos a prova de que as máquinas também podem ser criativas.”
Quase um ano e meio depois, um estudo recém-publicado demonstra que as AIs, não só podem ser criativas, quanto podem ser mais criativas de 99% das pessoas.
Este estudo foi desenvolvido por pesquisadores da Universidade do Arkansas e publicado na revista Nature com o título “The current state of artificial intelligence generative language models is more creative than humans on divergent thinking tasks”.
O seu objetivo era avaliar e comparar o potencial criativo do GPT-4 e participantes humanos usando tarefas de pensamento divergente. Em outras palavras, entender, qual dos dois se sai melhor em tarefas que exigem um pensamento mais “fora da caixa”.
Para testar isso na prática, eles recrutaram 151 participantes humanos, de diferentes idades, gêneros e níveis de escolaridade.
Esses participantes deveriam executar 3 tipos de tarefas criativas:
Tarefa de usos alternativos (AUT): os participantes deveriam gerar usos criativos para objetos comuns (por exemplo, garfo, corda).
Tarefa de Consequências (CT): os participantes deveriam levantar hipóteses de resultados de cenários hipotéticos (por exemplo, o que aconteceria se os humanos não precisassem mais dormir).
Tarefa de Associações Divergentes (DAT): os participantes deveriam listar 10 substantivos tão diferentes entre si quanto possível.
Todos os participantes tiveram um tempo estabelecido de 3 minutos para enviar suas respostas online.
Foi solicitado que o GPT-4, através do ChatGPT, executasse cada uma dessas tarefas de acordo com cada um dos participantes. Desta maneira, se o participante 35 gerou 8 usos criativos para a corda na tarefa um, o GPT-4 foi solicitado a gerar 8 - para que houvesse uma comparação mais adequada.
Uma vez coletadas as respostas dos humanos e do GPT-4, era necessário avaliá-las, afim de determinar as mais criativas.
Para medir criatividade, os pesquisadores utilizaram três critérios:
Fluência (número de respostas);
Originalidade (novidade das respostas);
Elaboração (detalhamento das respostas).
As respostas foram pontuadas de forma automatizada, utilizando a ferramenta Open Creativity Scoring (OCS) e modelos de distância semântica.
Os resultados encontrados pelos pesquisadores após a pontuação foram muito interessantes.
O GPT-4 superou os humanos em originalidade em todas as tarefas. Foram observados maiores pontuações de originalidade para AI nas tarefas de usos alternativos (AUT) e tarefas de consequências (CT).
Além disso, as respostas do GPT-4 foram mais detalhadas (pontuações de elaboração mais altas) em comparação com as respostas humanas.
Nas tarefas de associação divergente (DAT), o GPT-4 obteve maiores pontuações de distância semântica, ou seja, listou palavras mais diferentes entre si do que os humanos - indicando associações de palavras mais criativas.
Apesar dos resultados favoráveis ao GPT-4, os pesquisadores ressaltam que é importante testar a aplicabilidade no mundo real das respostas geradas pelo modelo. Isso, pois pode ser que, mesmo sendo mais criativo, talvez sua criatividade não seja tão útil na prática quanto à dos seres humanos. Mas isso ainda deve ser investigado.
De maneira geral, o estudo reforça o fato que as AIs são ótimas ferramentas criativas e que já superam, consistentemente, a maior parte dos humanos nesse tipo tarefa. E elas ficarão melhores muito em breve.
Portanto, a maior barreira para o uso das AIs de forma criativa não é a sua capacidade técnica, mas talvez o preconceito das pessoas pelo o que elas geram.
O simples fato de algo ser gerado por AI faz as pessoas pensarem que a qualidade é pior, como mostrou esse curioso levantamento.
Isso é normal, mas aos poucos a tecnologia será cada vez mais aceita e inserida no mundo criativo.
Indicações
AI Test Kitchen
Acesse os mais novos modelos de AI de música, vídeo, imagens, etc. do Google.
Co-Intelligence
Essa indicação não é de ferramenta, mas de um livro muito interessante sobre aplicação de AI no cotidiano e no trabalho. O autor chama-se Ethan Mollick e eu recomendo muito que conheçam o que ele produz.
Dica de Uso
Use o ChatGPT para fazer análises de dados e gerar gráficos para você!
Com ele, é possível transformar qualquer planilha ou documento que contenha números em uma análise profissional.
Pode ser o CRM ou as finanças da sua empresa, dados de uma multinacional da bolsa de valores, etc. Você pode ser criativo.Basta enviar o documento e solicitar uma análise.
Eu realmente me surpreendo com a qualidade do que ele é capaz de gerar. Os gráficos são bonitos e editáveis e as análises são bem completas.
Não é preciso ser nenhum analista de dados ou especialista em Excel para visualizar e compreender informações com mais facilidade e obter insights.
Lembrando que essa função de análise ainda só está disponível para assinantes do ChatGPT Plus - mas em algumas semanas estará para todos.
Pensamento do Dia
“Ship fast and iterate”
Por hoje é só!
Se está gostando do nosso conteúdo ou tem algum feedback para dar, sinta-se livre para responder o e-mail ou nos mandar mensagem nas redes sociais. Vamos adorar ler!
Aproveita para nos seguir no Instagram e no Tiktok (@revolucao.ai)!
Não se esqueça de compartilhar a newsletter com um amigo para ganhar prêmios!
Tenha uma ótima semana e até semana que vem!