Governança da superinteligência

Mas a governação dos sistemas mais poderosos, bem como as decisões relativas à sua implantação, devem ter uma forte supervisão pública. Acreditamos que as pessoas em todo o mundo deveriam decidir democraticamente sobre o limites e padrões para sistemas de IA. Ainda não sabemos como projetar tal mecanismo, mas planejamos experimentar seu desenvolvimento. Continuamos a pensar que, dentro destes limites amplos, os utilizadores individuais devem ter muito controlo sobre o comportamento da IA ​​que utilizam.

Dados os riscos e dificuldades, vale a pena considerar por que estamos construindo esta tecnologia.

Na OpenAI, temos duas razões fundamentais. Primeiro, acreditamos que isso levará a um mundo muito melhor do que podemos imaginar hoje (já estamos vendo exemplos iniciais disso em áreas como educação, trabalho criativo e produtividade pessoal). O mundo enfrenta muitos problemas que precisaremos de muito mais ajuda para resolver; esta tecnologia pode melhorar as nossas sociedades, e a capacidade criativa de todos para utilizar estas novas ferramentas irá certamente surpreender-nos. O crescimento económico e o aumento da qualidade de vida serão surpreendentes.

Em segundo lugar, acreditamos que seria involuntariamente arriscado e difícil impedir a criação da superinteligência. Dado que as vantagens são tremendas, o custo da sua construção diminui todos os anos, o número de intervenientes que a constroem está a aumentar rapidamente e é inerentemente parte do caminho tecnológico em que estamos, interrompê-lo exigiria algo como um regime de vigilância global, e mesmo isso não é garantido que funcione. Então temos que acertar.