Az XM nem nyújt szolgáltatásokat az Amerikai Egyesült Államok lakosai számára.

Multiple AI companies bypassing web standard to scrape publisher sites, licensing firm says



<html xmlns="http://www.w3.org/1999/xhtml"><head><title>EXCLUSIVE-Multiple AI companies bypassing web standard to scrape publisher sites, licensing firm says</title></head><body>

Adds comment from News Media Alliance in paragraphs 6-7

By Katie Paul

June 21 (Reuters) -Multiple artificial intelligence companies are circumventing a common web standard used by publishers to block the scraping of their content for use in generative AI systems, content licensing startup TollBit has told publishers.

A letter to publishers seen by Reuters on Friday, which does not name the AI companies or the publishers affected, comes amid a public dispute between AI search startup Perplexity and media outlet Forbes involving the same web standard and a broader debate between tech and media firms over the value of content in the age of generative AI.

The business media publisher publicly accused Perplexity of plagiarizing its investigative stories in AI-generated summaries without citing Forbes or asking for its permission.

A Wired investigation published this week found Perplexity likely bypassing efforts to block its web crawler via the Robots Exclusion Protocol, or "robots.txt," a widely accepted standard meant to determine which parts of a site are allowed to be crawled.

Perplexity declined a Reuters request for comment on the dispute.

The News Media Alliance, a trade group representing more than 2,200 U.S.-based publishers, expressed concern about the impact that ignoring "do not crawl" signals could have on its members.

"Without the ability to opt out of massive scraping, we cannot monetize our valuable content and pay journalists. This could seriously harm our industry," said Danielle Coffey, president of the group.

TollBit, an early-stage startup, is positioning itself as a matchmaker between content-hungry AI companies and publishers open to striking licensing deals with them.

The company tracks AI traffic to the publishers' websites and uses analytics to help both sides settle on fees to be paid for the use of different types of content.

For example, publishers may opt to set higher rates for "premium content, such as the latest news or exclusive insights," the company says on its website.

It says it had 50 websites live as of May, though it has not named them.

According to the TollBit letter, Perplexity is not the only offender that appears to be ignoring robots.txt.

TollBit said its analytics indicate "numerous" AI agents are bypassing the protocol, a standard tool used by publishers to indicate which parts of its site can be crawled.

"What this means in practical terms is that AI agents from multiple sources (not just one company) are opting to bypass the robots.txt protocol to retrieve content from sites," TollBit wrote. "The more publisher logs we ingest, the more this pattern emerges."

The robots.txt protocol was created in the mid-1990s as a way to avoid overloading websites with web crawlers. Although there is no clear legal enforcement mechanism, historically there has been widespread compliance on the web and some groups - including the News Media Alliance - say there may yet be legal recourse for publishers.

More recently, robots.txt has become a key tool publishers have used to block tech companies from ingesting their content free-of-charge for use in generative AI systems that can mimic human creativity and instantly summarize articles.

The AI companies use the content both to train their algorithms and to generate summaries of real-time information.

Some publishers, including the New York Times, have sued AI companies for copyright infringement over those uses. Others are signing licensing agreements with the AI companies open to paying for content, although the sides often disagree over the value of the materials. Many AI developers argue they have broken no laws in accessing them for free.

Thomson Reuters, the owner of Reuters News, is among those that have struck deals to license news content for use by AI models.

Publishers have been raising the alarm about news summaries in particular since Google rolled out a product last year that uses AI to create summaries in response to some search queries.

If publishers want to prevent their content from being used by Google's AI to help generate those summaries, they must use the same tool that would also prevent them from appearing in Google search results, rendering them virtually invisible on the web.



Reporting by Katie Paul in New York
Editing by Kenneth Li, Jamie Freed and Frances Kerry

</body></html>

Felelősségkizáró nyilatkozat: Az XM Group entitásai csak végrehajtási szolgáltatást és online kereskedési platformunkhoz való hozzáférést biztosítanak, ami lehetővé teszi, hogy a felhasználók megtekinthessék és/vagy felhasználhassák a honlapon vagy azon keresztül elérhető tartalmakat, amelyek nem módosíthatók és nem egészíthetők ki. A hozzáférés és felhasználás mindig a következők függvénye: (i) Felhasználási feltételek; (ii) Kockázati figyelmeztetés; valamint (iii) Teljes felelősségkizáró nyilatkozat. Az ilyen tartalmakat ezért csupán általános információként biztosítjuk. Külön felhívjuk figyelmét arra, hogy az online kereskedési platformunkon található tartalmak nem felhívások vagy ajánlatok tranzakciókba történő belépésre a pénzügyi piacokon. A pénzügyi piacokon folytatott kereskedés jelentős kockázattal jár a tőkéjére nézve.

Az online kereskedési platformunkon közzétett anyagok kizárólag oktatási / tájékoztatási célt szolgálnak, és nem tartalmaznak (nem tekinthető úgy, hogy tartalmaznak) pénzügyi, befektetési adóügyi vagy kereskedési tanácsokat vagy ajánlásokat, illetve kereskedési áraink jegyzékét, vagy bármilyen pénzügyi instrumentummal végrehajtott tranzakcióra vonatkozó ajánlatot vagy felhívást, vagy Önnek szóló kéretlen pénzügyi promóciókat.

Az ezen a honlapon szereplő, külső felektől származó, valamint az XM által készített tartalmak, például vélemények, hírek, kutatások, elemzések, árak és egyéb információk vagy külső felek oldalaira utaló hivatkozások „jelenlegi állapotukban”, általános piaci magyarázatként jelennek meg, és nem minősülnek befektetési tanácsnak. Amennyiben bármely tartalom befektetéssel kapcsolatos kutatásként értelmezhető, meg kell értenie és el kell fogadnia, hogy a tartalom nem a befektetéssel kapcsolatos kutatás függetlenségének előmozdítására szolgáló jogi követelmények szerint készült, következésképpen a vonatkozó törvények és jogszabályok szerint marketingkommunikációnak minősül. Kérjük, feltétlenül olvassa el és értse meg a fenti információkkal kapcsolatos „nem független befektetéskutatással kalcsolatos tájékoztatónkat” és a kockázati figyelmeztetésünket, amelyek itt érhetők el.

Kockázati figyelmeztetés: A CFD összetett eszköz, és a tőkeáttétel miatt a hirtelen veszteség jelentős kockázatával jár. Ennél a szolgáltatónál a lakossági befektetői számlák 73.91%-án veszteség keletkezik a CFD-kereskedés során. Fontolja meg, hogy érti-e a CFD-k működését és hogy megengedheti-e magának a veszteség magas kockázatát. Kérjük, olvassa el a kockázati figyelmeztetés erre vonatkozó részleteit.