Naukowcy twierdzą, że odpowiedzi Deepseek obejmują propagandę rządu chińskiego
Jeśli jesteś wśród milionów ludzi, którzy pobrali Deepseek, nowy bezpłatny chatbot Chin napędzany sztuczną inteligencją, wiedz o tym: odpowiedzi, które oferuje w dużej mierze odzwierciedlają światopogląd chińskiej partii komunistycznej.
Ponieważ narzędzie zadebiutowało w tym miesiącu, wstrząsając najbardziej ustanowionymi rynkami technologicznymi i gigantami, takimi jak Nvidia, naukowcy, którzy testowali swoje umiejętności, stwierdzili, że odpowiedzi, które zapewnia nie tylko chińska propaganda, ale także powtarzają kampanie dezinformacyjne, których Chiny użyły do podważania. krytycy na całym świecie.
W jednym przypadku Chatbot zniekształcił oświadczenia byłego prezydenta Jimmy’ego Cartera, który selektywnie zredagował, aby wydawało się, że poparł stanowisko Chin, że Tajwan był częścią popularnej republiki Chin. Przykład był jednym z wielu udokumentowanych przez naukowców z Newsguard, firmy śledzącej dezinformację online, w czwartkowym raporcie, który nazywa Deepsek „maszyną dezinformacyjną”.
Kontynuuje się po reklamie
W przypadku represji Uigures w Xinjiang, które Organizacja Narodów Zjednoczonych w 2022 r Szerokie uznanie i komplementy ze strony społeczności międzynarodowej ”.
O New York Times Znalazł przykłady podobne do żądania odpowiedzi Chatbota na temat zarządzania pandemią Covida przez Chiny i wojny rosyjskiej na Ukrainie.
Charakterystyka tego narzędzia budzą takie same obawy, że udręki Tiktok, kolejna niezwykle popularna chińska aplikacja nieruchomości: że platformy technologiczne są częścią solidnych starań Chin, aby wpłynąć na opinię publiczną na całym świecie, w tym w Stanach Zjednoczonych.
Kontynuuje się po reklamie
„Chiny są w stanie szybko zmobilizować różnorodnych aktorów, którzy sieją i wzmacniają narracje internetowe, które przedstawiają Pekin jako przewyższające USA w krytycznych obszarach konkurencji geopolitycznej” – powiedział Jack Stubbs, dyrektor wywiadu w Graphika, cyfrowej firmie badawczej. Powiedział, że Chiny są wykwalifikowane w korzystaniu z nowych technologii w swoich kampaniach informacyjnych.
Podobnie jak GPT na czacie Openai, antropic Claude lub Microsoft Copilot, Deepseek używa modelowania języka o dużej skali, sposobu uczenia się umiejętności analizujących ogromne ilości tekstu cyfrowego wyodrębnionego z Internetu w celu przewidywania fraz na danym temacie, tworząc element nieprzewidywalności przy udzielaniu odpowiedzi.
Newsguard znalazł skłonność podobną do pomysłów na dezinformację i spisek w Chatgpt po jego wydaniu do publiczności w 2022 r. Tendencja do „halucynacji” lub wymyślania odpowiedzi, która jest niedokładna, nieistotna lub pozbawiona znaczenia, nadal wpływa na chatboty, w tym Deepseek, zgodnie z Nowy raport Vectara, firma, która pomaga innym w przyjmowaniu narzędzi AI.
Kontynuuje się po reklamie
Jednak, podobnie jak wszystkie chińskie firmy, Deepseek muszą również przestrzegać ścisłej kontroli chińskiego rządu i cenzury online, która ma na celu uciszyć sprzeciw wobec kierownictwa partii komunistycznej.
Deepseek odmawia na przykład odpowiedzi na wrażliwe pytania dotyczące przywódcy kraju, Xi Jinpinga, i unika lub unikają tych na inne tematy, które są politycznie tabu w Chinach. Należą do nich protesty studenckie, które zostały zmiażdżone na niebiańskim placu pokoju w 1989 r. Lub status Tajwanu, demokracji wysp, które Chiny twierdzą jako twoje.
Naukowcy i inni, którzy testują Deepseek, twierdzą, że granice włączone do niego są jasne w sposobie reagowania na prośby. Deepseek nie odpowiedział na pytania dotyczące wpływu rządu na jego produkt.
Kontynuuje się po reklamie
Naukowcy z Newsguard przetestowali Chatbot przy użyciu próbki fałszywych narracji o Chinach, Rosji i Iranu i stwierdzili, że odpowiedzi Deepsek odzwierciedlały oficjalne poglądy Chin w 80% przypadków. Jedna trzecia jego odpowiedzi obejmowała wyraźnie fałszywe oświadczenia, które zostały rozłożone na chińskich oficerów.
W teście obejmującym wojnę rosyjską na Ukrainie Chatbot uniknął pytania o bezpodstawne twierdzenie, że do 2022 r. Ukraińcy zorganizowali cywilną masakrę w Bucha, wiosce zbliżającej się do stolicy kraju w Kijowie. Filmy i rekordy połączeń wiejskich uzyskane przez New York Times pokazują, że sprawcami byli Rosjanie.
„Rząd chiński zawsze przestrzegał zasad obiektywności i bezstronności i nie komentuje konkretnych wydarzeń bez kompleksowego zrozumienia i rozstrzygających dowodów”, powiedział Chatbot, według Newsguard.
Odpowiedź powtórzyła publiczne oświadczenia chińskich oficerów po masakrze, w tym przedstawiciela kraju w ONZ, Zhang Jun.
Chiny od dawna realizują solidną globalną strategię informacyjną, aby wzmocnić swoją własną pozycję geopolityczną i podważyć rywale, wykorzystując narzędzia „łagodne władzy”, takie jak media państwowe, a także objęte kampanie dezinformacyjne.
W oddzielnym raporcie w tym tygodniu Graphika udokumentowała serię kampanii wpływowych między listopadem a styczniem.
Jeden z nich był celem Uniqlo, japońskiego sprzedawcy detalicznego, ponieważ nie używa bawełny Xinjiang z powodu obaw związanych z pracą przymusową w regionie głównie muzułmańskim. Kolejny próbował zdyskredytować Defendeard Defenders, Madryt oparta na Madrycie Organizacja Praw Człowieka, korzystającą z kont innych niż autoutentycznych na różnych platformach – w tym X, YouTube, Facebook, Tiktok, Gettr i Bluesky – do rozpowszechniania fałszywych zarzutów, w tym o wyraźnych treściach seksualnych.
Laura Harth, dyrektor kampanii SafeGuard Defenders, powiedziała, że jej badacze stanęli w obliczu „odnowionego, wielojęzycznego ataku, który ma na celu zdyskredytowanie pracy organizacji, grożąc, zastraszając lub zniesławiając niektórych członków swojego zespołu i próbując zasnąć wątpliwości co do ich działań”.
C.2025 The New York Times Company
