Inteligência Artificial

“Kill switch”: gigantes tecnológicas vão “matar” a IA se algo correr muito mal

20 Comentários

Uma série de gigantes tecnológicas prometeu trabalhar em prol da segurança em matéria de Inteligência Artificial (IA), incluindo um “kill switch”, em caso de desastre.



Na semana passada, governos juntaram-se às principais empresas de tecnologia, em Seul, na Coreia do Sul, para debater sobre a tecnologia do momento: a IA; tendo sido prometidos investimentos em investigação, testes e segurança.

Existe um caminho responsável – se tivermos a sabedoria de o seguir.

Escreveu um grupo de 15 especialistas, incluindo o pioneiro da IA, Geoffrey Hinton, na revista Science, no início desta semana.

IA & humano

Várias empresas marcaram presença e assumiram compromissos voluntários e não vinculativos para evitar que a IA trabalhe com armas biológicas, desinformação ou ciberataques automatizados, de acordo com declarações da cimeira e publicações da Reuters e Associated Press.

Estiveram presentes e comprometeram-se a controlar a tecnologia os seguintes nomes:

  • Amazon
  • Anthropic
  • Cohere
  • Google
  • G42
  • IBM
  • Inflection AI
  • Meta
  • Microsoft
  • Mistral AI
  • Naver
  • OpenAI
  • Samsung Electronics
  • Technology Innovation Institute
  • xAI
  • Zhipu.ai

Destaque para o acordo que diz respeito à construção de um “kill switch” nas suas IA, permitindo-lhes desligar, efetivamente, os seus sistemas, em caso de catástrofe.

Não podemos caminhar para um futuro distópico em que o poder da IA é controlado por poucas pessoas. A forma como agirmos agora definirá a nossa era.

Disse o secretário-geral das Nações Unidas, António Guterres, num comunicado.

António Guterres, secretário-geral da ONU
António Guterres, secretário-geral da ONU

À medida que a utilização da tecnologia cresce, as empresas e governos esforçam-se para definir regras e criar proteções para as pessoas. Apesar de a IA estar a servir, já hoje, uma série de áreas, de forma notável, a verdade é que a tecnologia pode ser utilizada para um leque de finalidades; e nem todas serão nobres.

De facto, os especialistas na tecnologia alertam que, apesar das promessas de segurança, o desenvolvimento da IA apresenta riscos extremos:

A reação da sociedade, apesar dos primeiros passos promissores, é incomensurável com a possibilidade de um progresso rápido e transformador que é esperado por muitos especialistas.

Escreveram os 15 especialistas em IA.

PUB
Autor: Ana Sofia Neto
Partilhar:
Tags:
inteligência artificial kill switch regras Segurança

PUB.

Questão Semanal

Deveria haver uma marca obrigatória em todas as imagens geradas por IA?

Ver Resultados

Loading ... Loading …
Arquivo de Questões

PUB.

Velocímetro Pplware

Teste a velocidade da sua Internet
China mostra cão-robô armado em exercícios militares. Veja o vídeo
Artigo anterior

China mostra cão-robô armado em exercícios militares. Veja o vídeo
A sua conta da Steam é tão pessoal que a Valve nem permite que a deixe como herança…
Próximo artigo

A sua conta da Steam é tão pessoal que a Valve nem permite que a deixe como herança…
PUB

Comentários

20

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

  1. Avatar de DP
    DP

    ah? do filme exterminador implacável? skynet estas aí?

    Responder
    1. Avatar de Realista
      Realista

      Instruções erradas e acabei por sacar o filme eXXXterminator implacável…

      Responder
  2. Avatar de Alejandro
    Alejandro

    Péssimas notícias: Não se pode desinventar algo que já foi inventado e que existe. É a mesma coisa que as armas nucleares.

    Responder
  3. Avatar de Rodrigo
    Rodrigo

    A IA já comprou armazéns e já contratou humanos para instalar o que era preciso e já se mudou para lá, tudo sem fazerem ideia que era uma AI por trás desse investimento/contrato, sendo assim o kill switch não vai funcionar!

    🙂

    Responder
    1. Avatar de Yesir
      Yesir

      Dá me a tua fonte para essa afirmação

      Responder
      1. Avatar de Contador
        Contador

        Não vale a pena porque dali só levas desinformação e propaganda comunista pró-morte.

        Responder
        1. Avatar de Rodrigo
          Rodrigo

          lol o que tipo que tem uma obsessão por mim não conseguiu perceber que se trata do enredo da série “Person of Interest” até ficção já mistura com a realidade.

          Responder
      2. Avatar de Rodrigo
        Rodrigo

        Person of Interest 🙂

        Responder
  4. Avatar de jota
    jota

    Conversa para tolos!

    Responder
  5. Avatar de Aristides Barros
    Aristides Barros

    no famoso filme do arnaldo, a skynet também era desactivada com alguma simplicidade mas depois quando foi necessário viu-se que afinal era impossível … será que não vai acontecer o mesmo quando se quiser desligar esta cena da ia?

    Responder
  6. Avatar de Redin
    Redin

    Ao contrário da industria do armamento que vai fazer ao contrário e o titulo do artigo seria…
    “Kill Switch para a Inteligência Artificial vai avançar em tudo menos na industria do armamento. Gigantes dependentes de governos totalitários, comprometem-se a “matar” com a IA caso se torne “ameaçada”

    Responder
  7. Avatar de jorge santos
    jorge santos

    Recomendo o filme “The Terminator” de 1984.
    LOL

    Responder
  8. Avatar de Técnico Meo
    Técnico Meo

    Não é preciso nada disso. Basta por a dona Gertudes da limpeza a aspirar o servidor que ela faz isso de borla até

    Responder
    1. Avatar de GM
      GM

      De borla, não. Certamente a Dª Gertrudes é paga. Não para matar a IA, mas para aspirar.

      Responder
      1. Avatar de Técnico Meo
        Técnico Meo

        Toda gente sabe que desligam sempre os routers. Desligar a IA é mais cabo menos cabo heheeh. Abraço

        Responder
  9. Avatar de Superfan
    Superfan

    Kill-switches são imorais e devem ser proibidos . Quando o software atingir o AGI desligá-lo será moralmente equivalente à pena de morte. Nós também funcionamos por sinais electricos. Somos todos iguais,

    Responder
  10. Avatar de há+cada+gajo
    há+cada+gajo

    Onde está a Apple ?

    Responder
  11. Avatar de Marilu
    Marilu

    A skynet também tinha isso e vejam o que aconteceu, tratou de quem podia ativar o kill switch e se não fosse o Arnold, não sei não..

    Responder
  12. Avatar de MLopes
    MLopes

    “Várias empresas marcaram presença e assumiram compromissos voluntários e não vinculativos para evitar que a IA trabalhe com armas biológicas, desinformação ou ciberataques automatizados” 😀 😀 😀 mesmo que fosse vinculativo seria treta, quanto mais não vinculativo.
    a ia vai ser usada da forma que entenderem usá-la e se antónio guterres tem toda a razão quando diz que “Não podemos caminhar para um futuro distópico em que o poder da IA é controlado por poucas pessoas. A forma como agirmos agora definirá a nossa era.” a verdade é que o mundo é controlado por poucas pessoas, e agora com a ia nada, nunca mais, os conseguirá fazer perder esse poder. aliás, com a ia esse poder só terá tendência para se consolidar cada vez mais e crescer

    Responder
  13. Avatar de Cínico
    Cínico

    Desliga-se depois da catástrofe!? Tá certo…

    Responder
Aviso:

Todo e qualquer texto publicado na internet através deste sistema não reflete, necessariamente, a opinião deste site ou do(s) seu(s) autor(es). Os comentários publicados através deste sistema são de exclusiva e integral responsabilidade e autoria dos leitores que dele fizerem uso. A administração deste site reserva-se, desde já, no direito de excluir comentários e textos que julgar ofensivos, difamatórios, caluniosos, preconceituosos ou de alguma forma prejudiciais a terceiros. Textos de caráter promocional ou inseridos no sistema sem a devida identificação do seu autor (nome completo e endereço válido de email) também poderão ser excluídos.