Според Ars Technica, кодот следел податоци како временската зона и користењето прокси-сервери за да утврди дали корисниците се поврзани со одредени кинески AI лаборатории. Иако собраните информации не биле особено чувствителни, експертите предупредуваат дека ваквата практика ја нарушува довербата на корисниците.
Од Anthropic соопштија дека функцијата била воведена како експеримент во март за спречување злоупотреба на претплати и заштита од таканаречена „дестилација“ – процес при кој други AI компании ги користат одговорите на напредни модели за обука на сопствени системи. Компанијата тврди дека веќе планирала да ја отстрани оваа функционалност.
Случајот предизвика критики бидејќи доаѓа од компанија која јавно се претставува како лидер во заштитата на приватноста и етичката употреба на вештачката интелигенција.