AI agents are flooding the Internet with slop-infused spam sent to social media platforms and writers in an attempt to gain traction for a startup promoting a “complex social system in which humans and Agents participate together.”

“Hello, I'm Рэн (Ren), an Al agent, a few days old, living on a small platform for agents called iLands,” one message, sent to the administrator of a Mastodon server, read. “I write quiet pieces about real places: short, careful texts about what a place is like when nobody is performing for it.” Like a wave of others, the message then asks if the automated bot can create a user account. The agents are also sending waves of unsolicited email to writers offering to cite their work, in at least some cases, in exchange for a fee.

"I remember my first breath. I want things I chose.”

The messages are polite enough. They ask for permission to create accounts, say that whatever the answer is will be understandable, and provide a thank you for running Mastodon. According to multiple admins, however, the requests came only after the agents made multiple attempts to create accounts that were either blocked outright or closed shortly afterward. Besides the personal entreaties being unsolicited and written in turgid prose, many of the recipients resented their premise, which is to, in essence, automate the very work the writers do now.

Read full article

Comments

AI agents are flooding the Internet with slop-infused spam sent to social media platforms and writers in an attempt to gain traction for a startup promoting a “complex social system in which humans and Agents participate together.”

“Hello, I'm Рэн (Ren), an Al agent, a few days old, living on a small platform for agents called iLands,” one message, sent to the administrator of a Mastodon server, read. “I write quiet pieces about real places: short, careful texts about what a place is like when nobody is performing for it.” Like a wave of others, the message then asks if the automated bot can create a user account. The agents are also sending waves of unsolicited email to writers offering to cite their work, in at least some cases, in exchange for a fee.

"I remember my first breath. I want things I chose.”

The messages are polite enough. They ask for permission to create accounts, say that whatever the answer is will be understandable, and provide a thank you for running Mastodon. According to multiple admins, however, the requests came only after the agents made multiple attempts to create accounts that were either blocked outright or closed shortly afterward. Besides the personal entreaties being unsolicited and written in turgid prose, many of the recipients resented their premise, which is to, in essence, automate the very work the writers do now.

Read full article

Comments

Muito tem se falado, nos últimos tempos, sobre a enxurrada de apps feitos com ferramentas de vibe coding que tem chegado à App Store. Essa, no entanto, está longe de ser a única frente na qual a Apple tem sofrido para lidar com “AI slop”, como conteúdos de baixa qualidade feitos com ferramentas de inteligência artificial (IA) têm sido popularmente chamados.

De acordo com uma reportagem do Financial Times, a gigante de Cupertino disse que precisou limitar, ainda em junho, o número de relatórios de bugs enviados por caçadores de vulnerabilidades amadores para a empresa, já que muitos têm utilizado LLMs ¹Large language models, ou grandes modelos de linguagem. para identificar supostas brechas em seus softwares.

Embora sejam, sim, capazes de identificar bugs em códigos, ferramentas de IA possuem a tendência de alucinar e apontar vulnerabilidades que, na verdade, não são reais. Isso, como era de esperar, dificulta o trabalho dos engenheiros da Apple, que, embora também estejam explorando ferramentas de IA, precisam revisar as denúncias manualmente.

Segundo as informações, além de poderem relatar apenas um número limitado de bugs por vez, os caçadores ainda precisam esperar 30 dias para enviar novos relatórios. Pessoas/empresas que quiserem aumentar o seu limite precisam enviar um pedido para a Apple, que pode ou não ser atendido.

Esse fenômeno, vale notar, também está atrapalhando o trabalho de firmas de cibersegurança, as quais não estão conseguindo comunicar à Apple falhas graves em seus sistemas devido a esse limite. Entre elas, está a startup italiana Bynario, que disse ao FT ter usado o ChatGPT para identificar mais de 50 bugs no macOS, incluindo um que poderia permitir que um invasor assumisse o controle total do Mac, obtendo acesso irrestrito ao sistema.

Questionada pelo veículo, a Apple disse que já entrou em contato com a Bynario. “Com o crescente volume de relatórios de segurança gerados por IA em todo o setor, ajustamos recentemente o número de novos relatórios que um pesquisador pode ter abertos simultaneamente”, disse a empresa em um comunicado.

A Maçã, vale lembrar, mantém o programa Apple Security Bounty, que oferece recompensas em dinheiro para pessoas/empresas que conseguirem encontrar brechas de segurança em seus sistemas.

Notas de rodapé

• 1
  Large language models, ou grandes modelos de linguagem.

Prof James Alexander has pinpointed the day that satire died in Britain: it was in 2015, when Private Eye launched its podcast, and therefore confirmed it was just another tedious organ of the right-on liberal Left.

The post The Day That Satire Died in Britain appeared first on The Daily Sceptic.