Inteligência Artificial

Falha grave de segurança no DeepSeek deixa dados de milhões em risco

20 Comentários

O DeepSeek é o tema do momento em toda a Internet. Esta é mais uma IA que vem dar novas potencialidades aos utilizadores, mas tem particularidades únicas. Como foi criada, esta proposta deixa a concorrência longe e a questionar-se como foi possível ser criada. Agora, e no meio de outros problemas, surge uma falha grave de segurança no DeepSeek que deixa dados de milhões em risco.

DeepSeek falha segurança dados utilizadores

Falha grave de segurança no DeepSeek

A IA vinda da China continua a ser o centro das atenções, com o DeepSeek a ser agora o principal concorrente do Gemini, ChatGPT e Copilot. No entanto, o lançamento do DeepSeek está rodeado de controvérsias relacionadas com o uso de informação para treino. É pretendido garantir a segurança dos utilizadores, mas uma falha grave de segurança no DeepSeek acaba de vir a público.

Este problema pode colocar em risco os dados de milhões de utilizadores que decidiram registar-se no DeepSeek e usaram o chatbot com IA nos últimos dias. A informação sobre esta vulnerabilidade provém de uma análise realizada por investigadores da Wiz Research e é uma descoberta que pode colocar em risco toda a credibilidade do lançamento do DeepSeek. A pesquisa descobriu que uma das bases de dados da IA ​​​​está completamente exposta.

O principal problema que o DeepSeek enfrenta é a falta de confiança dos utilizadores, dos governos e das empresas. Ser um chatbot de IA vindo da China colocou em causa tanto as suas capacidades como o facto de ter sido desenvolvido com um orçamento de apenas 6 milhões de dólares. A descoberta de uma falha de segurança lança ainda mais dúvidas sobre a viabilidade e fiabilidade deste chatbot.

Dados de milhões de utilizadores em risco

O que a Wiz Research descobriu na sua investigação é que a base de dados exposta contém informações privilegiadas, como mais de um milhão de registos. Estão incluídos dados de utilizadores, registos do sistema, chaves de API e até mesmo envios de pedidos. Além disso, a situação é ainda pior porque encontrar esta base de dados não é fácil.

DeepSeek falha segurança dados utilizadores

Esta situação coloca o DeepSeek em problemas. A base de dados exposta representa um perigo para os utilizadores e, segundo o discutido na investigação, não foi possível encontrar completamente a porta de acesso a essa base de dados. As possibilidades geradas por este problema são alargadas, sendo os utilizadores as potenciais vítimas deste problema de segurança.

Os investigadores que descobriram o problema de segurança não explicaram como o encontraram. Querem evitar que outros sigam os seus passos e usem a vulnerabilidade de forma ilícita. Ainda é muito cedo para saber como o DeepSeek irá agir. Estas vulnerabilidades são comuns, mas quando se trata de IA, a situação agrava-se, especialmente porque o DeepSeek não tomou as medidas para proteger os utilizadores.

DeepSeek: a alternativa chinesa ao ChatGPT que colocou a indústria da IA ​​em causa

PUB
Autor: Pedro Simões
Partilhar:
Tags:
dados Deepseek falha Segurança utilizadores

PUB.

Questão Semanal

Deveria haver uma marca obrigatória em todas as imagens geradas por IA?

Ver Resultados

Loading ... Loading …
Arquivo de Questões

PUB.

Velocímetro Pplware

Teste a velocidade da sua Internet
Apple regista lucros recorde no 1.º trimestre de 2025, com 124 mil milhões de receitas
Artigo anterior

Apple regista lucros recorde no 1.º trimestre de 2025, com 124 mil milhões de receitas
Tesla inova e os carros da marca agora já saem sozinhos da fábrica
Próximo artigo

Tesla inova e os carros da marca agora já saem sozinhos da fábrica
PUB

Comentários

20

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

  1. Avatar de Tone
    Tone

    Eu estou registado lá como no ChatGPT. As perguntas que faço em ambos de pessoal não têm nada. Se eu sempre resisti a ter redes sociais por questões de privacidade não iria agora colocar informações pessoais minhas numa IA.

    Com as empresas americanas (Meta, Google, Apple, Microsoft, Oracle, etc) as pessoas expõem tudo e mais alguma coisa. E não fazem disso notícia e muito menos fazem ideia por onde andam os seus dados. Quando se trata da China aqui d’el rei. Ao menos sejam coerentes. Será que ainda não perceberam que a China não é o Japão e que vai comer de cebolada os EUA?

    O problema aqui é que as Big Tech com a IA e a inúmera informação que as pessoas expõem diariamente serão os próximos ditadores do futuro.

    Responder
    1. Avatar de Patinhas
      Patinhas

      Serão?

      Responder
    2. Avatar de Jose
      Jose

      Meu caro, uma coisa é ver os dados usados comercialmente, o que já é um abuso. Outra bem diferente, é ver um estado, pois o pcc é dono do estado chinês usar esses mesmos dados para vantagens políticas e até militares! Eles usam tudo, dentro da sua “ideologia grão de arroz” onde todas informações são úteis contribuem sempre para obter vantagens ou confirmações. Um exemplo disso foi o uso de uma ONG espanhola para tentar derrubar o govermo espanhol, com campanhas em locais como Facebook, tictoc, X e instagran! Ou ainda, a ainda a junção de informações de quem tira fotos perto de centros de interesse para o pcc.

      Responder
  2. Avatar de Corrector
    Corrector

    O meu deepseek é local e não fala com ninguém só comigo e os meus documentos 😀 . O que eu gostei mais foi que antes de criar a resposta, ele exibe os seus “pensamentos” o que ajuda muito no finetuning. Estou a gostar e provavelmente vai substituir o meu llama 3 nos afazeres.

    Responder
  3. Avatar de Uxatoducrl
    Uxatoducrl

    O mundo inteiro sempre adorou uma boa loja do “chines”. Grandes, baratas… mas cheias de quinquilharias de fraca qualidade… nos gozamos com eles riem-se… e no final enchem o bolso.

    Responder
    1. Avatar de Mapril
      Mapril

      Há uns dias o escroto Donald falou sobre o DeepSeek dizendo que a concorrência era boa, hehehe. Pronunciou o nome da China com um respeitoso “Tchaina”, em vez do habitualmente cuspido “TCHAAAAAINA!!!”. Desta vez ele não gozou nem se riu. E tu ainda te ris dos chineses?

      Responder
      1. Avatar de Jose
        Jose

        Sim, mas claro. Só criaram poder com uma população imensa à custa dos anjinhos que acharam que os obscurantistas seriam seduzidos a bem. Como se enganaram. Eu jamais confiei nessa gente. Note: nada tenho contra os chineses, mas tudo tenho contra o regime hediondo que os governa como se fosse o destino final e sagrado da Humanidade.

        Responder
      2. Avatar de Uxatoducrl
        Uxatoducrl

        Eu riu da santa ignorancia

        Responder
  4. Avatar de Costa
    Costa

    “Os investigadores que descobriram o problema de segurança não explicaram como o encontraram. Querem evitar que outros sigam os seus passos e usem a vulnerabilidade de forma ilícita”.

    Sinceramente não venham com esse tipo de disculpa quando vem da China é o mau da fita é o abcd.MAS! quando é USA oh gloria estamos bem protegidos . Isso tudo mentira e concorrência para o AI. Ainda mais como é um Open source e não vai custar muito nos compradores advinham que é o mal. Ainda bem que a Rússia não lançou imagina as notícias.

    Responder
    1. Avatar de Jose
      Jose

      Da China save que recebe um cópia rasca! Dos EUA o resultado de investigação é investimento, é natural que ainda padeça de defeitos, defeitos esses, largamente copiados pelos chineses que nada investiram além de um serviço espionageme traidores!

      Responder
      1. Avatar de Jose
        Jose

        …”sabe”…

        Responder
    2. Avatar de Marcos
      Marcos

      Defensores da China e da Rússia sistema autocráticos e absolutistas….não sei porque nao vão para lá….não quer dizer que dos USA seja melhor mas se tivesse de sair do país era para lá que eu ia…..a Europa na ausência de soluções encosta se a um dos lados….mais vale encostar aos estados unidos ainda assim…..
      Não sei porque o pessoal de esquerda que é tão a favor do respeito pela pluralidade e diversidade e depois são tão fundamentalistas qdo se trata de respeitar resultados democráticos…..esta ideia de ver a política como cubes de futebol está errada, de clube nunca se muda mas o sentido de voto…. só um burro é que não muda

      Responder
  5. Avatar de Max
    Max

    Depois de alertada a DeepSeek sobre a vulnerabilidade no acesso à base de dados a DeepSeek corrigiu-a.
    Mas há outras questões. Com a proliferação de IA, foram sendo criadas empresas que são contratadas para verificar até que ponto são seguras. A HiddenLayer é uma delas e acaba de publicar a sua avaliação dos riscos do DeepSeek. Tendo em atenção que o seu negócio é encontrar riscos e vender soluções para os detetar (ou seja, quanto mais encontrassem melhor) é muito interessante. Concluíram que: “A nossa pesquisa preliminar sobre o DeepSeek-R1 descobriu várias questões de segurança, desde censura de ponto de vista e restrições de alinhamento” [com o PCC, como Tiananmen, coisa que já se sabia] “até suscetibilidade a simples jailbreaks e geração de desinformação” [aqui já é mais complicado porque foi verificada suscetibilidade em casos que outros modelos já resolveram]. “Atualmente, não recomendamos o uso desse modelo de linguagem em qualquer ambiente de produção, mesmo quando hospedado localmente, até que os profissionais de segurança tenham tido a chance de sondá-lo mais extensivamente. Nós encorajamos fortemente o estudo e a replicação deste modelo para fins de pesquisa em ambientes controlados.”
    Discute também as vantagens e desvantagens dos modelos open-weight (em que os pesos/parâmetros são disponibilizados publicamente, o que não é exatamente o mesmo que open-source) vs. closet-weight. Parece-me que com tanto modelo open-weight (e open-source), como os que vão ser criados com base no DeepSeek, isso de a mítica “comunidade open-source” examinar a segurança de todos é uma miragem.
    https://hiddenlayer.com/innovation-hub/deepsht-exposing-the-security-risks-of-deepseek-r1/

    Responder
    1. Avatar de Tone
      Tone

      Faz perguntas ao ChatGPT que contrariem a igualdade de género, os movimento LGBT, o feminismo, o movimento BLM e vais ver que recebes uma resposta do tipo “A sua questão viola os Termos……”!

      Responder
      1. Avatar de Max
        Max

        Tens que dar exemplo das perguntas para fazer ao ChatGPT. Quanto ao DeepSeek, não foge à resposta – dá-a perfeitamente alinhada com o PCC. Em questões de política ou dos temas que referes só lhe deram os textos oficiais do PCC para ler. Os que já alguns notaram e não têm grande explicação é que a resposta pode variar, com significado, conforme a língua da pergunta/resposta.

        Responder
      2. Avatar de Jose
        Jose

        E q6em diz que isso é perfeito! Pelo menos os podemos, ainda, denunciar e protestar! Não se esqueça de uma coisa, deve ser muito jovem, mas estes “esquemas” de censura vieram precisamente de países como a China e Irão, adoptados depois pela Rússia, e de seguida no Ocidente para impor medidas impopulares e que afrontam a maioria das pessoas ao ponto de uma crítica hoje ser criminalizada! A perda de Direitos sociais é políticos tem sido para os cidadãos um facto! Ao ponto de até ser mal-visto elogiar a História nacional, como se tal fosse um crime.

        Responder
  6. Avatar de 2 dedos de testa
    2 dedos de testa

    primeiro milho para os pardais, esperar pela próxima versão já corrigida

    Responder
  7. Avatar de SouHumanoNaoOcidental
    SouHumanoNaoOcidental

    Já o são. Informação é poder.
    Não é a a toa que eles estavam na cerimónia do Trump.

    Responder
  8. Avatar de João
    João

    Que novidade!
    Ups… afinal o barato sai caro… tão boas as chinesices!

    Responder
  9. Avatar de Marcos
    Marcos

    Se das grandes tech dos estados unidos é dúbio e é um sistema capitalista democrático, acham que é de confiar num sistema que tem um regime autocrático?
    Engraçado é que os chineses são uma autocracia mas é lá para dentro porque para fora são capitalistas e de que maneira…..basta ver os negócios que eles abrem por aí

    Responder
Aviso:

Todo e qualquer texto publicado na internet através deste sistema não reflete, necessariamente, a opinião deste site ou do(s) seu(s) autor(es). Os comentários publicados através deste sistema são de exclusiva e integral responsabilidade e autoria dos leitores que dele fizerem uso. A administração deste site reserva-se, desde já, no direito de excluir comentários e textos que julgar ofensivos, difamatórios, caluniosos, preconceituosos ou de alguma forma prejudiciais a terceiros. Textos de caráter promocional ou inseridos no sistema sem a devida identificação do seu autor (nome completo e endereço válido de email) também poderão ser excluídos.