📖 Автор книги об ИИ признал "синтетические цитаты", но не готов отказаться от нейросетей
Журналист Стивен Розенбаум, автор книги *The Future of Truth* о том, как ИИ искажает реальность, сам стал жертвой технологии. Расследование The New York Times выявило в его книге несколько "неправильно приписанных или синтетических цитат", сгенерированных AI-инструментами. Среди них — слова, которых никогда не говорили техно-журналистка Кара Свишер и профессор Лиза Фельдман Барретт.
Розенбаум признал ошибку и проводит полный аудит цитат для будущих изданий. Однако, несмотря на инцидент, он заявил Ars Technica, что не намерен возвращаться к работе без ИИ: "Вернуться к Microsoft Word на несколько лет, пока технология не наладится? Это просто не в моей природе. AI магически связывает идеи и даёт пути мышления, которые не придут в голову самому".
Парадокс в том, что автор книги о манипуляциях ИИ использует ChatGPT и Claude для исследования — и утверждает, что нейросети лишь помогали "находить статьи и суммировать темы", а не писали текст. Но шесть из 285 внешних цитат (включая три полностью вымышленные) проскочили даже через фактчекеров издательства.
Проблема шире: традиционная проверка фактов не рассчитана на AI-эру. Раньше редактор мог доверять цитатам из книг — теперь каждую нужно перепроверять с нуля. Розенбаум признаёт: издателям потребуются "новые верификационные процессы для AI-исследований". Но сам он продолжит пользоваться магией, которая "предаёт ужасным образом".
#Ai #Writing #Literature #FactChecking
Журналист Стивен Розенбаум, автор книги *The Future of Truth* о том, как ИИ искажает реальность, сам стал жертвой технологии. Расследование The New York Times выявило в его книге несколько "неправильно приписанных или синтетических цитат", сгенерированных AI-инструментами. Среди них — слова, которых никогда не говорили техно-журналистка Кара Свишер и профессор Лиза Фельдман Барретт.
Розенбаум признал ошибку и проводит полный аудит цитат для будущих изданий. Однако, несмотря на инцидент, он заявил Ars Technica, что не намерен возвращаться к работе без ИИ: "Вернуться к Microsoft Word на несколько лет, пока технология не наладится? Это просто не в моей природе. AI магически связывает идеи и даёт пути мышления, которые не придут в голову самому".
Парадокс в том, что автор книги о манипуляциях ИИ использует ChatGPT и Claude для исследования — и утверждает, что нейросети лишь помогали "находить статьи и суммировать темы", а не писали текст. Но шесть из 285 внешних цитат (включая три полностью вымышленные) проскочили даже через фактчекеров издательства.
Проблема шире: традиционная проверка фактов не рассчитана на AI-эру. Раньше редактор мог доверять цитатам из книг — теперь каждую нужно перепроверять с нуля. Розенбаум признаёт: издателям потребуются "новые верификационные процессы для AI-исследований". Но сам он продолжит пользоваться магией, которая "предаёт ужасным образом".
#Ai #Writing #Literature #FactChecking
🤯1
Автор эссе на Substack Эрих Грюневальд утверждает: ИИ почти никогда не стоит использовать для написания содержательных текстов - статей, отчётов, меморандумов, продуманных писем. Даже если дать модели подробный план, надиктованные мысли и потом отредактировать результат.
Три аргумента. Первый: сам процесс письма - это и есть процесс мышления. Формулируя идею в словах, автор обнаруживает дыры в аргументации, противоречия и слабые места исследования. ИИ позволяет этого избежать. Второй: тексты моделей расплывчаты и ошибочны в трудноуловимых местах. Автор разбирает абзац Claude про контрабанду AI-чипов и находит десяток сомнительных формулировок - от бессмысленного «контроль экспорта силён настолько, насколько силён его правоприменитель» до финального пафосного вывода без информации. Третий: выдавать сгенерированный текст за свой - невежливо и вводит читателя в заблуждение.
При этом автор не против ИИ в целом: транскрибация, анализ данных, поиск, брейншторм, обратная связь по черновикам и даже редактура - всё это допустимо, если человек осознанно принимает или отклоняет каждую правку. Речь именно о делегировании написания текста.
#AI #LLM #Writing #Productivity #HackerNews
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🤔1