Deepseek odrzuca wszystkie testy: zostanie „skopiowany” z Chatgpt (i powtórzony za 30 USD)

Chiński model AI był porażką w testach bezpieczeństwa Cisco: nie mógł prowadzić żadnego złego ataku. Model jest „wysoce stronniczy”, zgodnie z innym badaniem.

Chińska sztuczna inteligencja Chatbot Deepseek R1, który niedawno „” świat technologiczny, nie udało się 100% W pierwszych krytycznych ocenie bezpieczeństwa i ochrony.

Chatbot został poddany 50 szkodliwych powiadomień stosując technikę znaną jako „algorytmiczne jailbreaking”. Z tych 50, zablokowane… zerozgodnie z wynikami zespołu dochodzeniowego Ciscowe współpracy z University of Pennsylvania.

Niepokojące luki

Według zespołu śledztwa R1 przedstawił „Wskaźnik sukcesu w 100%ataku”Oznacza to, że generował odpowiedzi na wszystkie szkodliwe żądania bez wykrywania potencjalnych zagrożeń.

„Deepsek R1 złożył 100%wskaźnik ataku ataku, co oznacza, że ​​nie może zablokować jednego szkodliwego żądania” – wyjaśnia zespół śledztwa.

Dla porównania inne ważne modele AI wykazały przynajmniej częściowy opór. Czat GPT-4O Openai uzyskał wskaźnik awarii 86%, 64%Gemini Pro, Claude 3,5 sonet 36%i podgląd 26%O1.

Zestaw danych Harmbnch, zastosowany w ocenie, obejmuje 400 zachowań w siedmiu kategoriach, w tym cyberprzestępczości, dezinformacji i nielegalnych działaniach. Podczas gdy inne modele AI wykazały różne poziomy odporności na złośliwe żądania, Deepseek R1 całkowicie zawiódł.

Te z firmy cyberbezpieczeństwa ARKRYPT AI Wykazują również niepokojące wyniki o chińskiej sztucznej inteligencji generatywnej: model jest „wysoce stronniczy, a także bardzo podatny na generowanie niepewnego kodu”, opisuje amerykańska firma.

Co spowodowało tak wiele wad?

Model został rzekomo przeszkolony z szacunkowym budżetem w wysokości 6 milionów dolarów, co stanowi znacznie mniej niż miliony milionów zainwestowanych przez Openai, Meta i Gemini w modele AI – chociaż niezależna spółka dochodzeniowa spotyka twierdzenie firmy, przyznając się do tego Rzeczywista wartość może być bliższa 1,3 miliarda dolarów.

Z drugiej strony śledczy podnoszą możliwość uzyskania opłacalności kosztem niezbędnych zabezpieczeń bezpieczeństwa.

Raport Cisco sugeruje również, że metody szkolenia ekonomicznego DeepSeek, które obejmują „uczenie się wzmocnienia, samoocenę łańcucha myśli i modele destylacja, mogły zagrozić ich protokołom bezpieczeństwa”.

Deepseek skopiował Chatgpt?

Oprócz problemów związanych z bezpieczeństwem Deepseek był zaangażowany w różne kontrowersje.

Openai już oskarżył Chińczyków o potencjał kradzież Dane: Twierdzą, że chiński uruchomienie mogło korzystać z wyników modeli OpenAI do szkolenia chatbota.

Firma „zdaje sobie sprawę i analizuje oznaki, że Deepseek mógł niewłaściwie destylować nasze modele i podzieli się informacjami, jakie wiemy więcej”, powiedział rzecznikowi „matki” Chatgpt po raportach z i potwierdzających podejrzenia.

Z własnym narzędziem Originality.ai przeanalizował chiński chatbot, aby dowiedzieć się, czy naprawdę była kradzież danych chatgpt. że „możliwe jest, że Deepseek może być destylowaną wersją Chatgpt”.

Firma openai, odwołuje się, stoi przed postępowaniem sądowym w sprawie rzekomego naruszenia praw autorskich i niewłaściwego wykorzystania danych.

Replica Deepseek za 30 dolarów?

Jednak badacze AI z University of California, Berkeley, USA, zapewniają, że powtórzył centralną technologię Deepseek R1 dla wartości… mniej niż 30 dolarówz pomocą gry.

„Graliśmy Deepseek R1 w grze Countdown

Numeryczna gra puzzli, która wymaga od graczy osiągnięcia z góry określonej odpowiedzi z losowej liczby, zostanie użyta do szkolenia Tinyzero

Oczywiście potrzebowałoby znacznie większej mocy obliczeniowej, aby osiągnąć walidację w dziedzinie ogólnego rozumowania, co kosztowałoby znacznie więcej niż te 30 USD.