weavingweather

논문 링크 : https://philpapers.org/archive/BALET-2.pdf In this essay, I’ve defended the idea that recognizing the risks of trespassing should often encourage greater intellectual modesty. Researchers on interdisciplinary collaboration have also affirmed the importance of something like modesty. For example, some researchers note that the ‘first step’ for cross-field collaborators ‘is to acknowledge, respect, and explore the diversity of perspectives’ (Hirsch Hadorn, Pohl, and Bammer 2010, p. 437). When researchers tackle together so-called wicked problems—from epidemics to poverty to nuclear arms control—they should presume they don’t have in hand what is required to hold confident answers to the questions, or even to know what those questions are. Their ignorance is what prompts the collaboration, and so they should begin the conversation knowing there are significant unknowns. My proposal is that many questions often not viewed as interdisciplinary call for a similarly modest respons...

AI가 일상적인 도구가 된 이후, 나는 정보에 대한 불신을 더 자주 느끼게 되었다. 내가 아는 정보와 AI가 아는 정보가 다를 때가 정말 많기 때문이다. 최근 이런 일이 있었다. 미국에 오기 전 40년 동안 건강식을 만들고, 직접 발로 뛰며 실험해온 사람의 제자분에게 음식 만드는 법을 배운 적이 있다. 시간이 지난 후 미국에 와서 다시 만들려고 하니 세부적인 과정이 잘 기억나지 않았다. 그래서 ChatGPT에게 물어보았다. 하지만 ChatGPT의 답변은 내가 배운 내용과 달랐다. 내가 알고 있는 방식대로 만들면 썩을 수 있고, 기대했던 발효나 변화가 제대로 일어나지 않을 수 있다는 것이었다. 이상해서 일단 전문가 분에게 내가 기억하는 것이 맞냐고 묻고, 다시 ChatGPT에게 돌아가 그 대답에 대해 반문하기 시작했더니 ChatGPT는 갑자기 내 말이 맞다는 식으로 답했다. 나는 그 순간 의문이 들었다. 대체 무엇이 맞는 걸까? 이러한 경험들 이후 나는 AI를 사용할 때 더 조심스러워졌다. AI는 단순히 진실 하나를 꺼내주는 존재가 아니라, 내가 어떤 전제를 가지고 질문하느냐에 따라 다른 방향의 답을 내놓을 수 있다. 질문에 포함된 단어 하나, 조건 하나, 맥락 하나가 답변의 방향을 바꾼다. 이 지점은 온라인 정보 환경 전반의 문제와도 닿아 있다. Machete와 Turpin은 가짜뉴스에 관한 문헌고찰에서, 온라인 정보가 많아질수록 중요한 것은 정보를 접하는 능력만이 아니라 그 정보의 신뢰성과 논리성을 평가하는 비판적 사고라고 지적한다. 그들이 검토한 연구들 역시 사람들이 진짜 뉴스와 가짜뉴스를 구별하는 데 어려움을 겪고 있음을 보여준다(Machete & Turpin, 2020, pp. 244–245). 요즘 나는 AI를 주로 그런 방식으로 사용한다. 생각을 요약하거나, 막연한 감각을 구체화하거나, 내가 가진 문제의식과 비슷한 자료를 찾아달라고 요청한다. (물어보는 질문의 대부분은, 지금 내가 쓴 글을 '매끄럽게 다듬어줘' 혹은 '비...