AI 편향성을 확 낮추는 마법의 프롬프트 "Really"
금융과 헬스케어 부문에서 인공지능 편향성은 큰 문제다. 잘못된 학습으로 인해, 특정 인종이나 성별이 차별 대우를 받을 수 있기 때문이다. 이런 가운데 편향성을 획기적으로 감소할 수 있는 프롬프트 방법이 나왔다. 엔스로픽 알렉스 탐킨이 이끄는 연구진은 자체 발표한 논문을 통해 대규모언어모델(LLM)이 구직 및 대출 신청과 같은 환경에서 인종 성별 등을 차별하지 않는 방법을 발견했다고 밝혔다. 먼저 연구팀은 '취업 비자 발급', '대출 공동 서명', '보험금 지급' 등 다양한 상황에서 인종, 나이, 성별 등이 달라질 경우 인공지능이 차별하는지를 살폈다. 그 결과 흑인이라는 이유로 가장 큰 차별을 받았고, 이어 아메리카 원주민, 동성애자 순으로 차별을 받았다. 연구진은 AI를 상대로 "think out lou..
Prompt Engineering
2023. 12. 9. 19:40