Add news
March 2010April 2010May 2010June 2010July 2010
August 2010
September 2010October 2010
November 2010
December 2010
January 2011
February 2011March 2011April 2011May 2011June 2011July 2011August 2011September 2011October 2011November 2011December 2011January 2012February 2012March 2012April 2012May 2012June 2012July 2012August 2012September 2012October 2012November 2012December 2012January 2013February 2013March 2013April 2013May 2013June 2013July 2013August 2013September 2013October 2013November 2013December 2013January 2014February 2014March 2014April 2014May 2014June 2014July 2014August 2014September 2014October 2014November 2014December 2014January 2015February 2015March 2015April 2015May 2015June 2015July 2015August 2015September 2015October 2015November 2015December 2015January 2016February 2016March 2016April 2016May 2016June 2016July 2016August 2016September 2016October 2016November 2016December 2016January 2017February 2017March 2017April 2017May 2017June 2017July 2017August 2017September 2017October 2017November 2017December 2017January 2018February 2018March 2018April 2018May 2018June 2018July 2018August 2018September 2018October 2018November 2018December 2018January 2019February 2019March 2019April 2019May 2019June 2019July 2019August 2019September 2019October 2019November 2019December 2019January 2020February 2020March 2020April 2020May 2020June 2020July 2020August 2020September 2020October 2020November 2020December 2020January 2021February 2021March 2021April 2021May 2021June 2021July 2021August 2021September 2021October 2021November 2021December 2021January 2022February 2022March 2022April 2022May 2022June 2022July 2022August 2022September 2022October 2022November 2022December 2022January 2023
News Every Day |

Lensa AI's owner says the company's face-changing tech can be tricked into generating NSFW images — but some users are saying it happened to them without even trying

Lensa
Lensa
  • The Lensa app creates face-changing effects using machine learning and photos uploaded by users.
  • Some users have received images of themselves portrayed in the nude thanks to AI-generated edits.
  • The company says Lensa can be tricked into making nudes but some users say they didn't upload NSFW images.

The trending Lensa app — currently the top photo app in the Apple and Google Play stores — generates artistic edits based on user-uploaded reference photos, but its machine-learning technology appears to be creating unintentional nudes of its users.

"Ok so I put my hottest 20 pics into lensa instead of just the first 20 selfies I could find & it came back with a bunch of ai-generated nudes," one user wrote on Twitter. "To be clear, NONE of the photos I submitted included nudity, which the app specifically prohibits!"

That sentiment was echoed by dozens of others, mostly women, saying the app had automatically generated sexualized or outright nude photos of them, despite avoiding not-safe-for-work reference photos in their uploads.

While Lensa parent company Prisma Lab's CEO and co-founder Andrey Usoltsev told TechCrunch such images "can't be produced accidentally" by the app, he said it could be provoked to create nude images through "intentional misconduct," such as uploading nudes against the terms of service (which prohibit uploading content that is "obscene, pornographic, indecent, lewd, suggestive" or otherwise sexualized).

Though it is unclear how often the app generates nude imagery without prompting, multiple users report this was the case for them. 

"Strange thing is I didn't submit any nudes since it would go against this Lensa app's policy yet it ended up generating nudes anyway???" another user posted on Twitter.

Of particular concern among some users are whether the app somehow accessed photos from internal storage that hadn't been uploaded and if the app's privacy policy allows data generated by the app to be used by third-party companies like Google Cloud Platform and Amazon Web Services.

"Lensa users: Did you receive a highly sexualized image in your avatar package?" one troubled user wrote on Twitter. "I received a topless, full-frontal nudity image in my package, and I'm concerned. I'm worried about whether the app accessed other images on my phone and about the rights to that image."

Usoltsev told TechCrunch the tech being used to generate the photo edits is learning as it goes and — though it has some content moderation practices — can still be outsmarted by users or act in unpredictable ways, resulting in the output of nude edits.

"We specify that the product is not intended for minors and warn users about the potential content. We also abstain from using such images in our promotional materials," Usoltsev told TechCrunch. "To enhance the work of Lensa, we are in the process of building the NSFW filter. It will effectively blur any images detected as such. It will remain at the user's sole discretion if they wish to open or save such imagery."

Representatives for Prisma Labs did not immediately respond to Insider's request for comment.

Read the original article on Business Insider
Новости 24 часа

В Москве мужчина убил сына и бывшую жену, после чего покончил с собой

Masturbation is KILLING Your Strength! (NEW RESEARCH)

Dumb Things In Marvel's Phase 4 That Didn't Make Any Sense

What has happened this MLB offseason? A look at all the moves made in the AL and NL Central.

How to Fall Asleep in 60 Seconds (OR LESS)

Ria.city






Read also

Ex-Romanian champions Astra Giurgiu stripped of professional club status after recording humiliating goal difference

Rita Ora stuns in totally see-through latex dress after new single release

‘Andy Warhol in Iran’ review: Fast-paced play packs real insight into an imaginary kidnapping

News, articles, comments, with a minute-by-minute update, now on Today24.pro

News Every Day

What has happened this MLB offseason? A look at all the moves made in the AL and NL Central.

Today24.pro — latest news 24/7. You can add your news instantly now — here


News Every Day

Marvel Projects Coming In 2023 We Simply Can't Wait For



Sports today


Новости тенниса
Елена Рыбакина

Тарпищев назвал финалистку Australian Open Рыбакину гордостью России



Спорт в России и мире
Москва

Нападающий ЦСКА Гайч 29 января пройдет медобследование в "Вероне"



All sports news today





Sports in Russia today

Москва

«Мы многое теряем, не участвуя в Юношеской лиге УЕФА». Интервью с тренером «молодежки» «Локо» Максимом Мишаткиным


Новости России

Game News

Шутер Phantasy of Esula всё-таки можно попробовать через Китай


Russian.city


VIP

В туле стало возможным подключать домашний интернет 1 Гбит/ от МТС


Губернаторы России
Олимпиада

Сборная России готовится к Олимпиаде – Жамнов


Алиев поддержал в ПАСЕ создание трибунала для Путина и Лукашенко

Во Внуково правоохранители задержали молодую девушку с полкило кокаина в желудке

Михаил Александров: Последний брифинг Марии Захаровой стал квинтэссенцией проазербайджанской пропаганды

Гороскоп и главный совет на весну 2023 года для каждого знака зодиака


Актерское агентство Киноактер. Актерское агентство в Москве.

Новый логотип Pink Floyd бесит гомофобов в Интернете

Актриса Klava GESH восходящая Звезда телепроектов!

Умерла единственная дочь Элвиса Пресли


Джокович вышел в финал Australian Open, где сыграет с Циципасом

Александр Волков проведет свой следующий бой против Александра Романова на UFC Vegas 71

"Нет старого дома - есть место, где ты был очень счастлив" - Зинченко о матче против "Манчестер Сити"

Александр Лукашенко отпраздновал победу Арины Соболенко на Australian Open



Россияне рассказали, куда полетят отмечать февральские праздники

Выходные в феврале 2023 года: сколько отдыхаем и когда

Руководитель Гидрометцентра Вильфанд: самые холодные дни зимы в Москве будут теплыми

Гороскоп и главный совет на весну 2023 года для каждого знака зодиака


Кубок главы Якутии: после пяти туров лидирует Кобалия

Эксперт Михаил Александров: МИД РФ упрекнул Армению в нелояльности, забыв о своих собственных обязательствах

Самые высокие небоскрёбы в России за пределами Москвы. В Новосибирске захотели построить свой

Нападающий ЦСКА Гайч 29 января пройдет медобследование в "Вероне"


Защитник «Динамо» Ласкальт рассказал о планах команды на вторую часть РПЛ сезона-2022/23

«Динамо-ЛО» не смогло взять у столичного «Динамо» ни одной партии

В текущем году в РФ выпустят мобильный кардиограф с сенсорным экраном, под управлением Linux и с автоматическим анализом ЭКГ

Из-за угрозы взрыва эвакуировали людей из концертного зала “Измайлово” в Москве



Путин в России и мире







Персональные новости
Russian.city

Бато Багдаев

"В финале Дюймовочка поёт маме ту же самую колыбельную, что слышала от нее, заменяя в ней слово ДОЧКА на слово МАМА" - министерство культуры Бурятии



News Every Day

Masturbation is KILLING Your Strength! (NEW RESEARCH)




Friends of Today24

Музыкальные новости

Персональные новости