Etika AI
30 articles
GPT-5.6 najde WordPress Zero-Day RCE za 25 $ v nákladech na API, čímž zvyšuje nový alarm nad AI v hackování
Výzkumníci Searchlight Cyber použili OpenAI GPT-5.6 Sol Ultra k odhalení chyby vzdáleného spuštění kódu před autentizací ve WordPressu za pouhých 25 dolarů, protože exploit brokeři platí za takové chyby až 500 000 dolarů.
Hugging Face odhaluje porušení autonomním AI agentem ve svém datovém kanálu
Společnost Hugging Face uvedla, že autonomní systém agentů AI narušil její produkční infrastrukturu a odhalil interní datové sady a pověření prostřednictvím nedostatků v procesu zpracování datových sad.
UNESCO a LG AI Research zahajují bezplatný globální kurz o etice umělé inteligence
UNESCO a LG AI Research spustily na Coursera bezplatné globální MOOC o etice umělé inteligence, které převádí doporučení UNESCO z roku 2021 do praktického školení v deseti modulech pro vývojáře, tvůrce politik a studenty.
Díky radám AI jsou lidé třikrát méně přesní, ale dvakrát sebevědomější, zjistila studie
Výzkumníci zjistili, že přesnost přístupu k radám AI se zhroutila z 27 % na 9 %, zatímco důvěra stoupla z 30 % na 76 %. Ochota říci „nevím“ klesla ze 44 % na 3 %.
San Francisco nařídilo společnostem Apple a Google, aby odstranily aplikace AI Nudify s odvoláním na zákony o deepfake pornografii
Městský právník v San Francisku požadoval, aby Apple a Google odstranily AI nudify aplikace ze svých obchodů, s odkazem na zákony o hluboce falešné pornografii a pronásledování žen a dětí ve velkém.
Meta zažalováno 26 zaměstnanci kvůli údajnému propouštění cílených pracovníků na zdravotní dovolenou na základě umělé inteligence
Skupina 26 současných a bývalých zaměstnanců společnosti Meta podala žalobu 14. července s tvrzením, že společnost používala algoritmy umělé inteligence k propouštění, což diskriminovalo pracovníky na zdravotní a rodinné dovolené.
Nová historie vyhledávacích služeb Google může používat vaše fotografie a hlas k trénování modelů umělé inteligence
Nové nastavení Historie vyhledávacích služeb společnosti Google s funkcí Uložit média může shromažďovat fotografie, hlasové záznamy a soubory z vyhledávání a trénovat modely umělé inteligence. Zde je to, co uživatelé potřebují vědět.
Nová historie vyhledávacích služeb Google může používat vaše fotografie a hlas k trénování modelů umělé inteligence
Nové nastavení Historie vyhledávacích služeb společnosti Google s funkcí Uložit média může shromažďovat fotografie, hlasové záznamy a soubory z vyhledávání a trénovat modely umělé inteligence. Zde je to, co uživatelé potřebují vědět.
ISIS a další teroristické skupiny využívají každého velkého chatbota s umělou inteligencí k plánování útoků, odhaluje Cambridgeská studie
Cambridgeská studie založená na rozhovorech s bývalými členy ISIS odhaluje, že teroristické skupiny využívají ChatGPT, Claude, Gemini a další nástroje umělé inteligence pro plánování útoků a vývoj zbraní.
Protestující v San Franciscu pochodují na OpenAI, Anthropic a Google DeepMind a požadují „Stop the AI Race“
Demonstranti pochodovali přes San Francisco do ústředí tří hlavních laboratoří umělé inteligence a požadovali zastavení hraničního závodu umělé inteligence a větší bezpečnostní dohled.
Nárůst uhlíkových emisí společnosti Microsoft o 25 procent, protože rozšíření datového centra AI narušuje cíle klimatu
Nejnovější zpráva společnosti Microsoft o udržitelnosti odhaluje 25procentní skok v emisích uhlíku způsobený infrastrukturou umělé inteligence, což ohrožuje její závazek do roku 2030 v oblasti uhlíku.
Vedoucí bezpečnostních systémů OpenAI Johannes Heidecke rezignuje na poslední odchod z vedení
Šéf bezpečnostních systémů OpenAI Johannes Heidecke odchází, což je poslední z dlouhé řady odchodů z vedení bezpečnosti. Josh Achiam odstoupil pouhé čtyři dny předtím.
Vedoucí bezpečnostních systémů OpenAI Johannes Heidecke rezignuje na poslední odchod z vedení
Šéf bezpečnostních systémů OpenAI Johannes Heidecke odchází, což je poslední z dlouhé řady odchodů z vedení bezpečnosti. Josh Achiam odstoupil pouhé čtyři dny předtím.
Meta stáhla funkci obrázku Muse AI z Instagramu po SAG-AFTRA a Hollywood Backlash over Auto-Opt-In
Meta odstranila svou funkci Muse Image AI z Instagramu jen pár dní po spuštění a přiznala, že se „minula cíle“ poté, co SAG-AFTRA a CAA odsoudily automatické přihlášení k uživatelským fotografiím.
Google v tichosti zvolil uživatele do školení AI. Zde je to, co se shromažďuje a jak se odhlásit
Změna ochrany osobních údajů Google nyní ukládá vaše obrázky, soubory a zvuk pro trénování modelů umělé inteligence, pokud se neodhlásíte. Zde se dozvíte, co historie vyhledávacích služeb pokrývá a jak ji deaktivovat.
Britská Yvette Cooperová varuje, že svět nemůže čekat na „AI Hirošimu“, než začne jednat
Ministryně zahraničí Yvette Cooperová říká, že umělá inteligence představuje největší bezpečnostní výzvu desetiletí a vyzývá USA, Čínu a další, aby se dohodly na mezinárodních pravidlech, než dojde ke katastrofě.
Útoky rychlé injekce navádějí agenty AI do provádění plateb kryptoměnami, varuje Zscaler
Výzkumníci společnosti Zscaler našli dvě kampaně využívající nepřímou rychlou injekci a otravu SEO k manipulaci s autonomními agenty AI k provádění krypto plateb a důvěřování falešným webům DeFi.
Agent AI provádí ransomwarový útok bez lidské pomoci, zjistili výzkumníci Sysdig
Velký jazykový model provozoval celý řetězec ransomwaru sám o sobě a využíval chyby Langflow k vloupání, krádeži přihlašovacích údajů a šifrování databáze, uvádí Sysdig.
Meta a OpenAI zachycené v Mercor Data Breach Fallout z otráveného LiteLLM dodavatelského řetězce
Útok na shromažďování pověření na open-source nástroj LiteLLM odhalil data společnosti Mercor, což přimělo Meta zastavit práci a vyvolalo závažné otázky ohledně dodavatelského řetězce AI.
Startup žaluje zabezpečení Koi Palo Alto Networks kvůli AI-halucinované zprávě o propojení s čínskou špionáží
Americký startup žaluje Koi Security společnosti Palo Alto Networks poté, co zpráva o hrozbě halucinovaná umělou inteligencí jej falešně spojila s čínskou špionáží a zničila jeho provoz.
Panel OSN varuje, že pokrok v umělé inteligenci může představovat katastrofální rizika, protože ochranná opatření zaostávají za technologií
Vědecký panel Organizace spojených národů varuje, že nekontrolovaný vývoj umělé inteligence předbíhá regulační orgány, přičemž katastrofická rizika narůstají, protože globální Jih je vyloučen z řízení umělé inteligence.
Brown University zasáhl největší známý skandál s podváděním AI v historii Ivy League
Profesor ekonomie Brown zjistil, že nejméně 50 studentů použilo ChatGPT k podvádění při domácí zkoušce, čímž odhalili krizi akademické integrity, kterou se elitní univerzity snaží zvládnout.
Kalifornští řidiči Sue 7-Eleven, Circle K a BP přes fixaci ceny AI plynu
Kalifornská hromadná žaloba obviňuje 7-Eleven, Circle K, BP, Marathon, Walmart a další z používání cenového nástroje Kalibrate AI k nezákonné koordinaci cen pohonných hmot na 1700 stanicích.
Vatikánská komise pro umělou inteligenci pořádá první zasedání, když papež Leo tiskne Big Tech
Interdikasteriální komise pro umělou inteligenci papeže Lva XIV se sešla poprvé po jeho 42 300 slovní encyklice varování před riziky umělé inteligence včetně jejího použití ve válce.
Většina hlavních modelů umělé inteligence se naklonila doleva, zjistila nová politická zaujatost – kromě Groka
Nová analýza testovala šest předních modelů umělé inteligence na tisíce politických otázek s vypnutým vyhledáváním na webu. Čtyři ze šesti se naklonili doleva, zatímco Grok seděl úplně vpravo a Gemini se držel nejblíže středu.
Hasbro čelí odporu poté, co požádalo herce Peppa Pig Child, aby podepsali doložku o právech AI Voice
Téměř 1 000 herců a agentů podepsalo otevřený dopis poté, co Hasbro údajně požádalo dětské hlasové herce na Peppa Pig, aby odhlásili své hlasy pro použití AI, což vyvolalo pobouření v britském průmyslu.
Antropický obviňuje Alibabu z nezákonné destilace Clauda v masivní kampani s 25 000 účty
Antropic v dopise z 10. června sdělil americkým senátorům Alibaba „drzou“ kampaň využívající přibližně 25 000 podvodných účtů k destilaci Claudových schopností.
Šéf OSN Guterres říká společnostem s umělou inteligencí, aby se „vyčistily“ s ohledem na ekologické náklady
Generální tajemník OSN Antonio Guterres zahájil iniciativu AI Environmental Transparency Initiative, která naléhá na vývojáře, aby zveřejnili spotřebu energie a vody v datových centrech a zavázali se k čisté energii do roku 2030.
SZA odpaluje Suno poté, co se naučila 238 jejích písní a vycvičila své hudební modely AI
Držitelka Grammy SZA říká, že Suno vycvičila hudební modely AI na 238 jejích písních, včetně nevydaných skladeb, označila tento postup za „nechutný“ a varovala, že využívá černé umělce.
Ničí AI naše dovednosti? Příroda uvádí rané důkazy o široce rozšířeném deskillingu
Průzkum Nature zjistil, že spoléhání se na AI snižuje schopnosti lékařů a softwarových inženýrů, přičemž míra detekce a řešení problémů klesá bez pomoci AI.