Chiny badają DeepSeek i Moonshot po zarzutach Anthropic o wyciek danych do Claude
Śledztwo Chin wobec DeepSeek i Moonshot dotyczy jednego z najważniejszych problemów współczesnych usług opartych na sztucznej inteligencji: tego, kto kontroluje dane przesyłane do modeli językowych i w jaki sposób mogą być one później wykorzystywane. Chiński regulator internetu bada firmy DeepSeek i Moonshot AI po zarzutach Anthropic, twórcy modelu Claude.
Z dostępnych informacji wynika, że Anthropic oskarżył obie firmy o potajemne kierowanie milionów wymian z użytkownikami przez Claude, aby wykorzystać je do trenowania własnych modeli. Nie oznacza to jeszcze, że zarzuty zostały potwierdzone. Postępowanie ma ustalić, co dokładnie się wydarzyło, jakie dane były przesyłane oraz czy doszło do naruszenia obowiązujących zasad.
Na czym polega śledztwo Chin wobec DeepSeek i Moonshot?
Według informacji opisanych w materiale źródłowym chiński regulator internetu prowadzi czynności wyjaśniające wobec DeepSeek i Moonshot AI. Przedmiotem zainteresowania jest sposób, w jaki miały korzystać z modelu Claude należącego do Anthropic.
W praktyce mogło chodzić o tak zwane przekierowywanie zapytań. Użytkownik korzysta z jednej aplikacji, ale jego wiadomość trafia — bez wyraźnej wiedzy użytkownika lub właściciela modelu — do innego systemu AI. Odpowiedź takiego systemu może następnie posłużyć do testowania albo ulepszania konkurencyjnego modelu.
Sam fakt używania zewnętrznego modelu nie musi być nielegalny. Firmy często korzystają z usług chmurowych, interfejsów API i narzędzi innych dostawców. Kluczowe znaczenie mają jednak warunki takiego dostępu: zgoda, zakres licencji, sposób informowania użytkowników oraz zasady przechowywania i dalszego przetwarzania danych.
Co oznacza „trenowanie modelu”?
Model językowy uczy się zależności występujących w dużych zbiorach danych. W zależności od metody dane mogą służyć do wstępnego treningu, dostrajania modelu, oceny jego odpowiedzi albo budowania zestawów testowych.
W opisywanej sprawie ważne jest rozróżnienie między samym przesłaniem rozmowy do Claude a wykorzystaniem odpowiedzi Claude do rozwoju innego modelu. To dwa różne etapy. Pierwszy dotyczy dostępu do usługi i przetwarzania zapytania. Drugi może dotyczyć tak zwanej destylacji modelu, czyli uczenia jednego systemu na odpowiedziach wygenerowanych przez inny system. Ostateczna kwalifikacja zależy od ustaleń śledztwa i umów regulujących dostęp do Claude.
Co wiadomo, a czego jeszcze nie ustalono?
Najważniejszym faktem jest to, że chiński regulator bada DeepSeek i Moonshot po oskarżeniach przedstawionych przez Anthropic. Materiał mówi o milionach wymian użytkowników, ale nie przedstawia szczegółowego zestawienia tych danych.
- Nie wiadomo, jakie dokładnie treści miały zostać przekierowane do Claude.
- Nie wiadomo, czy chodziło wyłącznie o anonimowe zapytania, czy również o dane pozwalające rozpoznać użytkowników.
- Nie wiadomo, jak długo miał trwać opisany proceder ani ilu klientów mogła dotyczyć sprawa.
- Nie wiadomo, czy dane zostały wykorzystane do finalnego trenowania modeli, czy tylko do testów i badań.
- Nie ma informacji o końcowych ustaleniach regulatora ani o ewentualnych karach.
Te zastrzeżenia są istotne, ponieważ nagłówki dotyczące „wycieku danych” mogą sugerować potwierdzone naruszenie. Na obecnym etapie bezpieczniej mówić o zarzutach Anthropic i postępowaniu wyjaśniającym, a nie o udowodnionej kradzieży danych.
Dlaczego sprawa ma znaczenie także poza rynkiem AI?
Incydent pokazuje, że użytkownik nie zawsze wie, który model faktycznie przetwarza jego wiadomość. Aplikacja może działać jako pośrednik między klientem a kilkoma dostawcami AI. Jeżeli informacja o takim łańcuchu nie jest jasna, użytkownik ma ograniczoną możliwość oceny ryzyka.
Dotyczy to również sektora kryptowalut. Coraz więcej portfeli, giełd i aplikacji analitycznych wykorzystuje chatboty oraz agentów AI. Takie narzędzia mogą pomagać w interpretowaniu danych blockchain, wyszukiwaniu transakcji czy obsłudze klienta. Nie powinny jednak otrzymywać informacji, których ujawnienie mogłoby doprowadzić do utraty środków.
Użytkownik nie powinien wpisywać do czatu AI przede wszystkim:
- frazy seed ani klucza prywatnego;
- haseł, kodów jednorazowych i danych logowania;
- nieopublikowanych danych dotyczących transakcji lub strategii handlowej;
- pełnych dokumentów tożsamości i innych wrażliwych danych;
- informacji firmowych objętych tajemnicą.
Adres publicznego portfela i identyfikator transakcji zwykle nie dają takiej kontroli nad środkami jak klucz prywatny, ale również mogą ujawniać historię aktywności. Przed przekazaniem danych zewnętrznemu narzędziu warto sprawdzić, czy są one naprawdę potrzebne do wykonania zadania.
Szerszy kontekst ryzyk związanych z wykorzystaniem AI w finansach opisano także w artykule „Ryzyko AI dla systemu bankowego”. Wspólnym problemem jest nie tylko jakość odpowiedzi modelu, lecz także kontrola nad danymi i procesem decyzyjnym.
Jak użytkownicy mogą ograniczyć ryzyko?
Nie da się całkowicie wyeliminować ryzyka przy korzystaniu z usług internetowych, ale można je zmniejszyć. Przed użyciem narzędzia AI warto sprawdzić politykę prywatności, warunki wykorzystywania rozmów do trenowania oraz możliwość wyłączenia historii lub użycia trybu, w którym dane nie są wykorzystywane do ulepszania modelu.
W przypadku usług związanych z kryptowalutami należy korzystać wyłącznie z funkcji, które nie wymagają ujawniania poufnych danych. Jeżeli chatbot prosi o frazę odzyskiwania, klucz prywatny lub przesłanie środków w celu „weryfikacji”, jest to sygnał alarmowy. Żadna pomoc techniczna oparta na AI nie powinna wymagać dostępu do pełnej kontroli nad portfelem.
Firmy powinny natomiast prowadzić rejestr dostawców, do których trafiają zapytania, ograniczać zakres przekazywanych danych i stosować anonimizację. Ważne są również audyty, kontrola uprawnień oraz jasne informowanie klientów o tym, czy odpowiedź generuje własny model, czy zewnętrzna usługa.
Możliwe konsekwencje dla branży
Jeśli zarzuty Anthropic zostaną potwierdzone, sprawa może zwiększyć presję na dostawców AI, aby dokładniej ujawniali sposób korzystania z cudzych modeli. Znaczenie mogą zyskać bardziej szczegółowe zasady dotyczące API, retencji danych i trenowania systemów na odpowiedziach innych modeli.
Możliwa jest także większa fragmentacja rynku. Firmy działające w różnych państwach mogą podlegać odmiennym wymogom dotyczącym danych, cyberbezpieczeństwa i transferu informacji. Dla użytkownika oznacza to konieczność zwracania uwagi nie tylko na nazwę aplikacji, lecz także na jej dostawców technologicznych i lokalizację przetwarzania danych.
Na razie nie ma podstaw, by przesądzać o winie DeepSeek lub Moonshot AI. Ostateczna ocena będzie zależeć od dowodów, odpowiedzi obu firm i ustaleń regulatora. Sprawa przypomina jednak, że w świecie modeli językowych dane mogą być przekazywane między usługami w sposób niewidoczny dla użytkownika.
Podsumowanie
Chiński regulator internetu bada DeepSeek i Moonshot po zarzutach Anthropic dotyczących kierowania milionów rozmów przez Claude i wykorzystywania ich do trenowania własnych modeli. Na tym etapie są to zarzuty objęte postępowaniem, a nie potwierdzone ustalenia. Dla użytkowników kryptowalut najważniejsza lekcja jest praktyczna: do narzędzi AI nie należy przekazywać kluczy prywatnych, fraz seed ani innych danych, których ujawnienie mogłoby zagrozić bezpieczeństwu aktywów.
Źródło: China Probes DeepSeek and Moonshot Over Alleged Data Leaks to Anthropic's Claude
