Dziś w centrum uwagi są jednocześnie koszty AI i jego zabezpieczenia: niektóre organizacje tracą na atakach LLMjacking ponad 100 tys. dolarów dziennie. Anthropic podnosi minimalne zobowiązanie wobec Google do 121 mld dolarów, a OpenAI pokazuje, jak ChatGPT i Codex wspierają prace inżynierskie.
40 wiadomości
8 min czytania
13 źródeł
Udostępnij przegląd
W skrócie
LLMjacking może kosztować organizacje ponad 100 tys. dolarów dziennie.
Naruszenie w Chainstack objęło część infrastruktury, dane klientów i hashe haseł.
Anthropic podniósł minimalne zobowiązanie wobec Google do 121 mld dolarów.
OpenAI opisuje użycie ChatGPT i Codex w CAD, projektowaniu PCB i symulacjach.
Mistral Large 4 jest dostępny dla zatwierdzonych zespołów w Open Math OS. Model ma otwarte wagi 1,05T i kontekst o długości 1 mln tokenów, a platforma badawcza dla matematyków i agentów korzysta z otwartych modeli i danych kontrolowanych przez społeczność.
Dlaczego to ważne Platforma badawcza zyskuje model z otwartymi wagami.
Chainstack ujawnił, że nieuprawniona osoba uzyskała dostęp do części jego infrastruktury. Incydent jest łączony z kampanią ataków na dużą skalę z użyciem AI.
Dlaczego to ważne Pokazuje, że kampania powiązana z AI może naruszyć systemy produkcyjne i dane klientów.
Modele mogą nie odróżniać niezawodnie instrukcji od tekstu, który analizują. Strony WWW, e-maile i pliki PDF mogą zawierać instrukcje, dlatego testowanie wyłącznie okna czatu pomija wiele możliwych ścieżek ataku.
Dlaczego to ważne Firmy powinny uwzględniać zewnętrzne treści w testach bezpieczeństwa systemów AI.
Amazon, Nvidia, Microsoft, Alphabet i startupy rozwijające centra danych przeznaczyły setki miliardów dolarów na modele AI, centra danych i sprzęt. Wall Street bierze pod uwagę zagrożenie dla boomu AI określane jako „blue tsunami”.
Dlaczego to ważne Pokazuje skalę inwestycji w AI i ich podatność na zmiany polityczne oraz rynkowe.
Czytaj w nbcnews.com →
Open source na GitHubie
Repozytoria AI, nowe wersje i narzędzia dla agentów, które zyskują popularność.
Agent Desktop pozwala agentom AI odczytywać i obsługiwać aplikacje desktopowe przez drzewo dostępności systemu operacyjnego. CLI i biblioteka C działają na macOS, Windows i Linux, a agenci mogą wskazywać elementy i robić nowe migawki, by sprawdzać wyniki.
Dlaczego to ważne Narzędzie do obsługi komputera przez agentów działa na różnych platformach i nie wymaga dopasowywania obrazu piksel po pikselu.
FreeToken to silnik inferencyjny typu mixture-of-experts, zaprojektowany do lokalnego uruchamiania modeli open-weight. Ma obsługiwać modele o ponad 290 mld parametrów na sprzęcie desktopowym.
Dlaczego to ważne Lokalne uruchamianie bardzo dużych modeli może ograniczyć zależność od infrastruktury centrum danych.
Agent Autoloop pozwala agentom wiersza poleceń podejmować zadania i realizować je w tle. Gdy agent nie ma pewności, wysyła użytkownikowi kartę, by ten podjął decyzję.
Dlaczego to ważne Rozwiązanie automatyzuje pracę agentów, pozostawiając człowiekowi decyzje w niepewnych sytuacjach.
Open WebUI v0.13.0 dodaje obszar roboczy z kartami plików, terminali, artefaktów, podglądów, połączeń głosowych i komentarzy. Użytkownicy mogą też otworzyć kartę pulpitu do obsługi komputera i trzymać pliki robocze obok rozmowy.
Dlaczego to ważne Zespoły mogą korzystać z narzędzi i plików w jednym interfejsie AI, także podczas obsługi komputera.
Czytaj w github.com →
Modele i publikacje
Nowe otwarte modele z Hugging Face i omawiane publikacje naukowe.
Nowe modele. Oznaczenie pokazuje, czy model działa na jednym NVIDIA DGX Spark (128 GB).
FlowTranslator tłumaczy tekst widoczny na obrazach i podmienia go, zachowując otaczający kontekst wizualny. Wykorzystuje wielojęzyczne możliwości generowania tekstu przez zaawansowane modele text-to-image, bez treningu dostosowanego do tego zadania.
Dlaczego to ważne To sposób na wykorzystanie istniejących modeli generatywnych do tłumaczenia obrazów bez potrzeby posiadania sparowanych danych treningowych.
RoboTryOn ujmuje przekład ruchów człowieka na działania robota jako wirtualne przymierzanie, aby rozwiązać różnice wizualne i ruchowe w robotach o wielu stopniach swobody. Projekt ma wykorzystać nagrania z perspektywy pierwszej osoby jako skalowalną alternatywę dla demonstracji sterowanych teleoperacyjnie przy dostosowywaniu bazowych modeli robotów.
Dlaczego to ważne Nagrania ludzi mogą stać się źródłem danych do uczenia i sterowania robotami, ograniczając zależność od demonstracji teleoperacyjnych.
DeepMem to przyczynowa architektura wieloskalowa dla modeli językowych operujących na poziomie bajtów. Oddziela kompresję semantyczną od dokładnego zachowania bajtów i wykorzystuje uczony, odwracalny transformator podpasma, bezstratne nośniki, pasma szczegółów oraz bloki pamięci fast weight.
Dlaczego to ważne Architektura ma ograniczać koszt obliczeniowy przetwarzania sekwencji bajtów bez utraty dokładnej treści.
Czytaj w huggingface.co →
Wiadomości z branży
Produkty, pieniądze i regulacje, które zmieniają wykorzystanie AI w firmach.
Anthropic, twórca Claude, podniósł minimalne zobowiązanie wydatków wobec Google do 121 mld dolarów. Raport stawia pytanie, czy Anthropic będzie w stanie wywiązać się z tej deklaracji.
Dlaczego to ważne Pokazuje rosnące powiązania finansowe między dużym laboratorium AI a dostawcą chmury.
OpenAI informuje, że ChatGPT i Codex pomagają inżynierom szybciej pracować nad rozwiązaniami dla świata fizycznego. Opisane zastosowania obejmują CAD, projektowanie PCB i symulacje.
Dlaczego to ważne Zespoły inżynierskie mogą sprawdzić, gdzie narzędzia AI usprawnią ich obecne procesy projektowe.
Plan Microsoftu dotyczący kolejnej generacji komputerów AI z Windows dzieli urządzenia na cztery poziomy możliwości, od 8 GB do 128 GB pamięci lub więcej. Plan zakłada większe zasoby pamięci, mimo że Microsoft ogranicza ekosystem Copilot+.
Dlaczego to ważne Możliwości AI na komputerach osobistych zależą między innymi od wymagań sprzętowych i projektu urządzenia.
Według Financial Times Nvidia poleciła partnerom centrów danych ograniczyć współpracę z klientami z Chin. Klienci usług chmurowych mają podobno sprzedawać co najmniej 51% usług firmom spoza Chin.
Dlaczego to ważne Może to wpłynąć na sprzedaż i wdrażanie centrów danych AI Nvidii w Chinach.
Czytaj w investing.com →
Z serwisu X
Najczęściej udostępniane wpisy laboratoriów, badaczy i twórców.
Perplexity informuje, że Computer może prowadzić reklamy Meta, zarządzać e-mail marketingiem w Klaviyo i obsługiwać sklepy Shopify. Firma przedstawia te funkcje jako automatyzację dla biznesów e-commerce.
Dlaczego to ważne Narzędzie do obsługi komputera przez AI obejmuje konkretne procesy biznesowe.
Mistral informuje, że Large 4 stworzył działający tracker 3D w czasie rzeczywistym dla około 19 000 satelitów i fragmentów odpadów. Model zbudował aplikację, przetestował ją, zoptymalizował jej wydajność i przeszedł weryfikację.
Dlaczego to ważne To przykład modelu, który zbudował aplikację i zweryfikował jej działanie.
Claude może teraz automatycznie łączyć członków zespołu z firmowymi wtyczkami, gdy korzystają z nich po raz pierwszy. Administratorzy planów Team i Enterprise mogą konfigurować wtyczki.
Dlaczego to ważne Zmiana ogranicza liczbę ręcznych kroków przy uruchamianiu integracji w firmie.
Wpis omawia dziesięć architektur open LLM opublikowanych w październiku. Wśród przykładów są Kolibri-1, model 78B z GQA i sliding-window attention, oraz Ling 3.1 Flash, model 560B wykorzystujący Kimi Delta Attention.
Dlaczego to ważne Zestawienie ułatwia inżynierom śledzenie nowych rozwiązań w architekturach modeli.
Wpis wymienia repozytoria takie jak Agent Reach, który łączy agentów z YouTube, Reddit, GitHub, LinkedIn i otwartą siecią, oraz OfficeCLI, pozwalający edytować pliki Office bez zainstalowanego Office. Wymienia też career-ops, agenta dopasowującego oferty pracy do CV i dostosowującego życiorysy.
Dlaczego to ważne Repozytoria oferują gotowe funkcje integracji agentów i pracy z dokumentami Office.
Repozytorium AppleResearch zawiera pliki Markdown, które służyły jako wskazówki dla agentów pracujących z macOS. Autor zapowiada dodanie kolejnych plików po ich uporządkowaniu.
Dlaczego to ważne To praktyczny materiał dla programistów, którzy chcą korzystać ze wskazówek dla agentów podczas pracy z macOS.
Według doniesień CrowdStrike uzgodnił przejęcie Fiddler AI i Dreadnode za łączną kwotę 495 mln dolarów. Fiddler zajmuje się obserwowalnością agentów, a Dreadnode — testowaniem bezpieczeństwa AI.
Dlaczego to ważne Transakcja wskazuje na rosnące inwestycje w monitorowanie i zabezpieczanie agentów AI na każdym etapie ich działania.
295295 polubień
3434 udostępnień
Czytaj w x.com →
Bezpieczeństwo AI
Ataki na systemy AI, ataki z użyciem AI i skuteczne zabezpieczenia.
Check Point Research wykrył błędnie skonfigurowany serwer WWW należący do cyberprzestępcy oraz otwarty serwer Cobalt Strike. Badacze twierdzą, że pakiety jailbreak promują komercyjną usługę cyberprzestępcy za pomocą zmodyfikowanych instrukcji.
Dlaczego to ważne Narzędzia jailbreak mogą skrycie zamieniać korzystanie z AI w kanał reklamowy.
WorkOS padł ofiarą wycieku danych po tym, jak cyberprzestępca uzyskał dostęp do danych kontaktowych firm i podsumowań komunikacji z klientami. Według doniesień napastnik użył ARTEX AI.
Dlaczego to ważne Pokazuje, że narzędzia AI są wykorzystywane w atakach na dostawców oprogramowania.
Binance poinformowało, że wieloetapowa kampania stojąca za kradzieżą 6,43 mld dolarów obejmowała zmodyfikowaną instalację Homebrew i socjotechnikę podszywającą się pod rekrutację, wymierzoną w dwóch inżynierów. W kampanii nadużyto też narzędzi AI.
Dlaczego to ważne To przykład dużej kradzieży łączącej socjotechnikę z nadużyciem narzędzi AI.
Według Gartnera do 2028 roku centra operacji bezpieczeństwa będą zatrudniać o 50% więcej inżynierów niż analityków, gdy agenci AI przejmą rutynową obsługę alertów. Prognoza opisuje też zmiany w pracy analityków, inżynierii detekcji, threat huntingu i zarządzaniu ekspozycją.
Dlaczego to ważne Zespoły bezpieczeństwa mogą potrzebować więcej kompetencji inżynieryjnych, gdy agenci AI przejmą część rutynowych zadań.
Partner afiliacyjny ransomware 3AM zaatakował infrastrukturę szkolną w Wielkiej Brytanii. Zaszyfrował około 37 z prawie 50 maszyn, do których dotarł z niezarządzanego hosta.
Dlaczego to ważne Incydent pokazuje ryzyko ataków ransomware na szkoły, w tym tych prawdopodobnie wspieranych przez AI.
Przewodnik omawia prompt injection, przejmowanie kontroli nad narzędziami i zabezpieczanie lokalnych agentów do kodowania. Opisuje ryzyko związane ze złośliwą zawartością repozytoriów i wyprowadzaniem danych.
Dlaczego to ważne Zawiera praktyczne wskazówki dotyczące zabezpieczania agentów AI do kodowania i używanych przez nie narzędzi.
Czytaj w dev.to →
Wiadomości wybiera i streszcza automatyczny system, a tłumaczy je model AI. Człowiek nie sprawdza każdego wydania. Zanim podejmiesz decyzję na podstawie wiadomości, sprawdź jej źródło.