카테고리 보관물: 과학기술정책

공학, 과학, 과학기술정책, 융합과학, 인공지능

GPT-4가 여기에 있습니다 : 과학자들이 생각하는 것

댓글 남기기

연구원들은 AI에 대해 흥분하고 있지만 많은 사람들은 AI의 기본 엔지니어링이 비밀리에 숨겨져 있다는 사실에 좌절하고 있습니다.

 

NEWS 16 March 2023

GPT-4 is here: what scientists think

Researchers are excited about the AI — but many are frustrated that its underlying engineering is cloaked in secrecy.

 

https://www.nature.com/articles/d41586-023-00816-5

 

인공 지능 회사 OpenAI는 이번 주에 인기 있는 챗봇 ChatGPT를 구동하는 대형 언어 모델의 최신 화신인 GPT-4를 공개했습니다. 이 회사는 GPT-4가 큰 개선을 포함하고 있다고 말합니다 – 이미 인간과 같은 텍스트를 만들고 거의 모든 프롬프트에서 이미지와 컴퓨터 코드를 생성하는 능력으로 사람들을 놀라게 했습니다. 연구원들은 이러한 능력이 과학을 변화시킬 잠재력이 있다고 말하지만, 일부는 아직 기술, 기본 코드 또는 훈련 방법에 대한 정보에 액세스 할 수 없다는 사실에 좌절감을 느낍니다. 이는 기술의 안전성에 대한 우려를 불러일으키고 연구에 덜 유용하게 만든다고 과학자들은 말합니다.

 

3월 14일에 출시된 GPT-4의 한 가지 업그레이드는 이제 텍스트뿐 아니라 이미지도 처리할 수 있다는 것입니다. 그리고 언어 능력을 입증하듯 캘리포니아주 샌프란시스코에 본사를 둔 Open AI는 이전 버전의 ChatGPT가 10분위 수를 기록한 것과 비교하여 90분위 수로 미국 변호사 시험을 통과했다고 합니다. 그러나 이 기술은 아직 널리 사용되지 않습니다. 지금까지 ChatGPT의 유료 가입자만 액세스할 수 있습니다.

 

암스테르담 대학교의 심리학자 Evi-Anne van Dis는 “현재 대기자 명단이 있어 지금 사용할 수 없습니다.”라고 말합니다. 그러나 그녀는 GPT-4의 데모를 보았습니다. “우리는 그들이 능력을 입증한 비디오를 몇 개 봤는데 정말 놀라웠습니다.”라고 그녀는 말합니다. 한 가지 사례는 GPT-4가 이미지를 입력으로 처리하는 능력을 보여주기 위해 해당 웹사이트를 구축하는 데 필요한 컴퓨터 코드를 생성하는 데 사용했던 웹사이트의 손으로 그린 ​​낙서였습니다.

 

그러나 과학 커뮤니티에서는 모델이 어떻게 그리고 어떤 데이터를 훈련했는지, 그리고 실제로 어떻게 작동하는지에 대한 OpenAI의 비밀에 대해 좌절감을 느끼고 있습니다. “이 모든 폐쇄 소스 모델은 본질적으로 과학에서 막 다른 골목입니다.”라고 오픈소스 AI 커뮤니티인 HuggingFace의 기후 전문 연구 과학자인 Sasha Luccioni는 말합니다. “그들[OpenAI]은 연구를 계속 구축할 수 있지만, 커뮤니티 전체에게는 막다른 골목입니다.”

 

‘레드 팀’ 테스트

로체스터 대학교의 화학 엔지니어인 Andrew White는 ‘레드 팀’으로서 GPT-4에 액세스할 수 있는 특권을 가졌습니다. OpenAI에서 지불하여 플랫폼을 테스트하여 나쁜 일을 하도록 만드는 사람입니다. 그는 지난 6개월 동안 GPT-4에 접근할 수 있었다고 말했습니다. “프로세스 초기에는 이전 버전과 크게 다르지 않은 것 같습니다.”

 

그는 화합물을 만들고, 반응 수율을 예측하고, 촉매를 선택하는 데 필요한 화학 반응 단계가 무엇인지 봇에 쿼리했습니다. White는 “처음에는 그다지 인상적이지 않았습니다. “매우 사실적으로 보일 것이기 때문에 정말 놀랐지만 여기에서는 원자를 환각시킬 것입니다. 거기에서 한 단계 건너뛸 것입니다.”라고 그는 덧붙입니다. 그러나 그의 레드팀 작업의 일환으로 그가 GPT-4에게 과학 논문에 대한 액세스 권한을 부여했을 때 상황이 극적으로 바뀌었습니다. “이러한 모델만으로는 그다지 훌륭하지 않을 수도 있다는 사실을 깨닫게 되었습니다. 하지만 역합성 플래너나 계산기와 같은 도구를 인터넷에 연결하기 시작하면 갑자기 새로운 종류의 능력이 나타납니다.”

 

그리고 그러한 능력에는 우려가 따릅니다. 예를 들어, GPT-4가 위험한 화학 물질을 만들 수 있습니까? White는 OpenAI 엔지니어가 White와 같은 사람들의 의견을 바탕으로 GPT-4가 위험하거나 불법적이거나 해로운 콘텐츠를 만드는 것을 막기 위해 모델에 피드백했다고 말합니다.

 

가짜 사실

허위 정보를 출력하는 것은 또 다른 문제입니다. Luccioni는 문장의 다음 단어를 예측하기 위해 존재하는 GPT-4와 같은 모델은 환각으로 알려진 가짜 사실을 생각해 낼 수 없다고 말합니다. “환각이 너무 많기 때문에 이런 종류의 모델에 의존할 수 없습니다.”라고 그녀는 말합니다. OpenAI는 GPT-4에서 안전성이 향상되었다고 말하지만, 이것은 최신 버전에서 여전히 우려 사항이라고 그녀는 말합니다.

 

교육에 사용되는 데이터에 액세스할 수 없으면 Luccioni의 안전에 대한 OpenAI의 보증이 부족합니다. “당신은 데이터가 무엇인지 모릅니다. 그래서 당신은 그것을 향상시킬 수 없습니다. 내 말은, 이와 같은 모델로 과학을 수행하는 것은 완전히 불가능하다는 것입니다.”라고 그녀는 말합니다.

 

GPT-4가 어떻게 훈련되었는지에 대한 미스터리는 암스테르담에 있는 van Dis의 동료인 심리학자 Claudi Bockting의 관심사이기도 합니다. “감독할 수 없는 것에 대해 책임을 지는 것은 인간으로서 매우 어렵습니다.”라고 그녀는 말합니다. “우려 중 하나는 예를 들어 인간이 스스로 가지고 있는 편견보다 훨씬 더 편향될 수 있다는 것입니다.” Luccioni는 GPT-4 뒤에 있는 코드에 액세스할 수 없으면 편향이 발생한 위치를 확인하거나 수정할 수 없다고 설명합니다.

 

윤리 토론

Bockting과 van Dis는 또한 점점 더 이러한 AI 시스템이 큰 기술 회사에 의해 소유되고 있다고 우려하고 있습니다. 그들은 기술이 과학자들에 의해 적절하게 테스트되고 검증되었는지 확인하기를 원합니다. “이것은 또한 빅테크와의 협력이 물론 프로세스 속도를 높일 수 있기 때문에 기회이기도 합니다.”라고 그녀는 덧붙입니다.

 

Van Dis, Bockting 및 동료들은 올해 초 AI 및 GPT-4와 같은 도구를 사용하고 개발하는 방법을 관리하기 위한 일련의 ‘살아있는’ 지침을 개발해야 할 긴급한 필요성을 주장했습니다. 그들은 AI 기술에 관한 모든 법률이 개발 속도를 따라잡기 어려울 것이라고 우려하고 있습니다. Bockting과 van Dis는 4월 11일 암스테르담 대학에서 이러한 문제를 논의하기 위해 UNESCO의 과학 윤리 위원회, 경제 협력 개발 기구, 세계 경제 포럼을 포함한 조직의 대표들과 함께 초청 정상 회담을 소집했습니다.

 

우려에도 불구하고 GPT-4와 그 미래 반복은 과학을 뒤흔들 것이라고 White는 말합니다. “인터넷이 큰 변화였던 것처럼 실제로 과학의 거대한 인프라 변화가 될 것이라고 생각합니다.”라고 그는 말합니다. 과학자를 대체하지는 못하지만, 일부 작업에는 도움이 될 수 있다고 덧붙였습니다. “종이, 데이터 프로그램, 우리가 사용하는 라이브러리, 전산 작업 또는 심지어 로봇 실험까지 연결할 수 있다는 사실을 깨닫기 시작할 것 같습니다.”

 

doi: https://doi.org/10.1038/d41586-023-00816-5

건강, 과학, 과학기술정책, 보건의료정책, 생물, 융합과학, 의학

박테리아의 항생제 내성

댓글 한 개

Antibiotic Resistance in Bacteria-A Review

 

Antibiotics 2022, 11(8), 1079; https://doi.org/10.3390/antibiotics11081079

Received: 4 July 2022 / Revised: 5 August 2022 / Accepted: 6 August 2022 / Published: 9 August 2022

 

초록

배경: 박테리아 간의 다제 내성(MDR)의 세계적인 문제는 매년 수십만 명의 사망 원인입니다. MDR 박테리아의 상당한 증가에 대응하여 가축용 사료 첨가제의 형태뿐만 아니라 2019년 6월 EU 규정의 대상이었던 메타필락시스 및 그 치료를 포함하여 항생제의 사용을 제한하거나 제거하기 위한 입법 조치가 널리 취해졌습니다. 수많은 연구에서 박테리아가 표현형과 유전 전략을 모두 사용하여 항생제에 대한 자연 방어를 가능하게 하고 사용된 항균 화학 물질에 대한 내성을 증가시키는 메커니즘을 유도한다는 것을 문서로 만들었습니다. 박테리아가 개발한, 이 검토에서 제시된 메커니즘은 인간과 동물의 박테리아 감염과 싸우는 능력을 줄이는 데 큰 영향을 미친다. 또한, 환경에서 다중 내성 균주의 높은 유병률과 공생 식물상 및 식인성 병원체와 같은 병원성을 포함한 다른 박테리아 종 간의 약물 내성 유전자의 전달 용이성(대장균, 캄필로박터 종, 엔테로코커스 종, 살모넬라 종, 리스테리아 종, 포도상구균 종.) 인간과 동물의 박테리아 사이에 다중 저항의 급속한 확산을 선호합니다. 인간과 동물에게 위험한 박테리아 사이에 다중 약물 내성의 광범위한 현상으로 인한 세계적인 위협을 감안할 때,이 연구의 주제는 인간과 동물로부터 분리된 “식인성 병리학 자”라고 불리는 가장 빈번한 박테리아에서 내성 메커니즘을 제시하는 것입니다. 선택된 병원체, 특히 인간에 대한 위험 중 다제 내성과 관련된 글로벌 문제의 중요성을 제시하기 위해이 간행물은 또한 세계 여러 지역에서 선택된 박테리아 중 약물 내성 발생 비율 범위에 대한 통계 데이터를 제시합니다. 병원체 내성의 표현형 특성 외에도 이 검토는 특정 항생제 그룹에 대한 약물 내성 유전자 검출에 대한 자세한 정보를 제공합니다. 원고는 또한 Campylobacter spp., E. coli 또는 Enetrococcus spp와 같은 자체 연구 결과를 제시한다는 점을 강조해야합니다. 이 주제와 박테리아 간의 약물 내성 위험에 대한 데이터 제시는 약물 내성 예방 및 박테리아 제어의 항균 방법에 대한 대안 개발을 구현하는 연구를 시작하는 데 기여할 것입니다.

 

키워드 : 항생제 내성; 박테리아; 저항 유전자; 항균제

 

  1. 소개

박테리아 사이에서 항생제에 대한 광범위한 내성은 매년 수십만 명의 사망 원인입니다. 가장 심각한 문제는 최후의 수단 (반코마이신)을 포함하여 일반적으로 사용되는 항생제에 내성이 있는 박테리아의 수가 지속해서 증가하고 있다는 것입니다. 내성 유전자가 전 세계적으로 확산할 수 있는 속도는 전 세계적으로 공중 보건에 영향을 미치고 국제 협력이 필요한 문제의 걱정스러운 증가를 확인시켜줍니다. (보충 표 S1) 전 세계적으로 관찰된 다제 내성 균주 인구의 현저한 증가에 대응하여 2014년 세계 보건기구 (WHO)는 이 현상을 주요 글로벌 건강 위협으로 인식했습니다.

가축용 사료 첨가제의 형태를 포함하여 항생제의 사용을 제한하거나 제거하기 위한 입법 조치뿐만 아니라 EU 규정 2019/6의 주제였던 메타필락시스 및 치료의 항균제로도 널리 취해졌습니다.

미생물 간의 약물 내성을 줄이기 위해 수행된 전략의 목적으로 병원균에 대한 선천적 내성 증가와 관련된 마커를 확인하고 새로운 항균제를 검색하며 인간과 동물 미생물 군집에 대한 항생제 내성 전달에서 박테리아의 역할을 결정하기 위해 동물의 유전적 개선과 같은 분야에서 연구 잠재력을 높이는 것도 필요합니다. 항생제 내성을 극복하기 위해 현재 시행된 전략은 박테리오파지 또는 그 효소의 대체 사용, 차세대 백신 개발에 의존합니다. 또한, 프리바이오틱스, 프로바이오틱스, 박테리아 부산물 및 파이토바이오틱스가 포함된 동물을 위한 새로운 사료 기반 정권을 사용하는 것도 중요합니다. 박테리아, 식물, 무척추동물, 척추동물 및 포유류에 의해 합성된 살균 활성을 가진 단백질 및 펩타이드에도 큰 관심이 있습니다. 이 솔루션은 락토바실러스 종, 스트렙토마이세스, 마이크로코커스 또는 효모 사카로미세스 및 칸디디아와 같이 일반적으로 안전한 것으로 인정되는(GRAS) 박테리아에 의해 생산된 항균 펩타이드의 사용을 기반으로 합니다.

항생제 내성의 발달에 대한 싸움은 전통적으로 주로 임상 조건에서 이루어졌으며 최근에는 내성 박테리아의 전염을 제한하고 항생제 치료 중 선택을 방지하기 위해 농업에서도 발생했습니다. 최근 몇 년 동안 박테리아 간의 약물 내성 보급의 중요한 원천이자 경로로서 환경의 역할에 대한 이해가 증가하고 있습니다.

 

  1. 박테리아 중 약물 내성 획득 메커니즘

가장 간단한 유형의 저항은 타고난 저항이라고 하는 감수성의 자연스러운 부족입니다. 이것은 종, 균주 또는 전체 박테리아 그룹의 지속적인 특성입니다. 주어진 미생물은 특정 항생제 그룹에 대한 ‘선천적’ 내성으로 인해 항생제에 둔감합니다. 항생제에 대한 수용체의 부재, 낮은 친화도, 세포벽 불투과성 또는 효소 생산과 관련이 있을 수 있습니다.

박테리아의 감수성 변화는 1차 또는 2차 일 수 있습니다. 1차 저항은 자발적인 돌연변이의 결과로 발생하며 약물과의 접촉 없이 나타날 수 있습니다. 이러한 유형의 내성은 염색체로 암호화되며 다른 박테리아 종으로 전염되지 않습니다. 돌연변이 박테리아의 발생 빈도는 낮지만 항생제가 있는 경우 돌연변이체는 나머지 개체군보다 유리하므로 생존하고 감수성이 있는 개체군보다 많습니다. 그들은 같은 개체의 다른 생태 학적 틈새로 퍼지거나 다른 거대 생물로 옮겨질 수 있습니다. 항생제를 포함한 항균제로부터 자신을 방어하는 동안 박테리아는 진화 과정에서 항균제의 효과를 상쇄하는 다양한 메커니즘을 개발했습니다. 내성 유전자를 획득한 결과, 박테리아는 다양한 효과 메커니즘을 개발하여 주어진 항생제에 부분적으로 또는 완전히 내성을 갖게 됩니다.

20세기 중반부터 수행된 수많은 과학적 연구를 바탕으로 항생제에 대한 박테리아 내성을 설명하는 여러 메커니즘이 제안되었습니다. 박테리아는 현재 세포에서 항생제의 적극적인 제거, 항생제의 효소적 변형, 항생제의 표적이 되는 세포 성분의 변형, 항생제에 의해 비활성화된 효소의 과발현, 박테리아 세포막의 투과성 변화, 대체 대사 경로의 생성, 항생제의 길항제인 대사 산물의 농도 증가, 항생제의 전구체를 활성화하는 효소의 양 또는 활성의 감소, 항생제의 직접적인 작용 메커니즘과 관련이 없는 조절 시스템의 변형 또는 억제된 대사 경로의 생성물에 대한 수요 감소.

수많은 연구에서 박테리아가 항생제에 대한 자연 방어를 가능하게 하는 두 가지 주요 유전 전략, 즉 종종 항균 화합물의 작용 메커니즘과 관련된 유전자 돌연변이와 수평 유전자 전달을 통한 내성 결정 요인을 암호화하는 외래 DNA의 획득을 사용한다는 것을 문서로 만들었습니다.

수평 유전자 전달은 아직 확인되지 않은 내성 유전자와 알려진 새로운 유전자의 확산에 중요한 역할을 합니다. 이 메커니즘은 저항이 특정 클론 이상으로 확장되도록 합니다. 이러한 방식으로 유전자 전달은 훨씬 더 많은 수의 박테리아에 대해 내성 유전자를 사용할 수 있게 하여 미생물의 주어진 생활 환경에서 환경 (비병원성) 박테리아와 병원체 사이의 종 장벽을 깨뜨립니다. 박테리아 사이의 약물 내성 유전자의 수평 전달 과정은 존재하는 모든 환경에서 발생할 수 있습니다. 그러나 내성 유전자가 환경 박테리아에서 병원성 박테리아로 수평으로 전달되기 위해서는 적어도 일시적으로 같은 환경에 존재해야 합니다. 또한, 계통 발생과 밀접한 관련이 있는 박테리아 간에 수평적 유전자 전달 가능성이 훨씬 더 큽니다. 마지막으로, 박테리아 세포 간의 유전 물질 전달은 항생제와 잠재적으로 금속 및 살생물제와 같은 스트레스 요인에 의해 유도됩니다. 항생제의 선택은 또한 새로운 숙주에서 전달된 내성 유전자의 확립에 이바지합니다. 따라서 병원체에 대한 내성 전달은 특히 항생제 치료 중에 인간과 관련된 박테리아 간에 비교적 흔할 것으로 예상할 수 있습니다. 대조적으로, 다른 서식지를 차지하고 종종 계통 발생학적으로 덜 밀접하게 관련된 환경 박테리아로부터 병원체로의 내성 유전자의 전달은 덜 일반적일 가능성이 크지만, 환경 스트레스 요인은 환경 조건에서 (기회주의적) 인간 병원체와의 수평 유전자 전달을 유도할 수 있습니다. 이것은 내성 인자가 인간 병원체로 옮겨질 때 환경 박테리아에서 다른 병원체로 옮겨지는 것보다 공생과 병원체 사이에 더 퍼질 가능성이 더 크다는 것을 의미합니다.

미생물과 항균 약물 사이의 접촉 조건에서 발생하는 2차 저항으로 이어지는 메커니즘은 훨씬 더 복잡합니다. 2차 저항 메커니즘은 염색체 외입니다. 이 현상을 일으키는 유전자는 세포질의 플라스미드라고 하는 DNA의 작은 원형 분자에 있습니다. 하나의 플라스미드는 여러 가지 항균제에 대한 내성 유전자를 포함할 수 있습니다. 플라스미드는 내성을 암호화하는 유전자를 한 박테리아 세포에서 다른 박테리아 세포로 전달할 수 있습니다. 플라스미드는 주로 접합 및 형질도입을 통해 전달됩니다. 접합 동안, 플라스미드는 둘 이상의 박테리아 세포에 의해 생성된 단백질 가닥을 통해 직접 접촉하여 전달됩니다. 종종 계통 발생 학적으로 멀리 떨어져 있는 다른 종과 속의 박테리아가 접합 과정에 참여할 수 있습니다. 이러한 방식으로 부생 박테리아에서 병원성 박테리아로의 내성 전달은 특히 바람직하지 않습니다. 형질도입은 박테리오파지 (박테리아 바이러스)에 의해 매개되는 기증자 세포에서 수혜 세포로 플라스미드를 전달하는 과정입니다. 박테리오파지가 세포 표면의 수용체에 부착된 후 DNA가 박테리아에 도입됩니다. 박테리오파지는 세포의 대사 과정을 이용하여 바이러스 DNA를 복제하고 바이러스 단백질을 생성합니다. 박테리아 세포 내부에 새로운 박테리오파지가 형성되면 용해 – 용균 사이클을 거칩니다. 파지 DNA는 또한 용해성이라고 불리는 박테리아 염색체 (prophage)에 통합될 수 있습니다. 게놈의 위치를 변경할 수 있는 전이 요소 중에서 삽입 서열 (IS)과 트랜스포존 (Tn)을 구별할 수 있습니다. 삽입 서열은 트랜스포자제를 암호화하는 유전자를 포함하는 DNA 구분이며, 양쪽이 반전된 반복 서열로 둘러싸여 있습니다. 이 효소는 삽입 요소가 DNA의 모든 부위로 이동할 수 있도록 합니다. 저항 유전자는 또한 트랜스포존에 위치할 수 있으며, 때때로 ‘점프 유전자’라고도 합니다. 트랜스포존 (Tn) 중에서 항생제에 대한 내성을 암호화하는 유전자 또는 트랜스포존의 이동과 관련이 없는 다른 유전자 (예 : Tn8)의 양쪽에 있는 두 개의 삽입 서열로 구성된 복합 트랜스포존을 구별할 수 있습니다. 비복합 트랜스포존 (유형 Tn7)에서 추가 형질을 암호화하는 유전자는 짧은 반전 서열로 둘러싸여 있으며 전이는 복제적이며 두 유전자의 산물을 필요로 합니다. 접합 트랜스포존은 단일 세포의 DNA 내에서뿐만 아니라 세포 간에도 전달 될 수 있다는 점에서 고전적인 트랜스포존과 다릅니다. 그들은 플라스미드 또는 박테리아 염색체와 통합된 형태로 발생합니다. 특정 신호에 응답하여 이러한 트랜스포존은 복제할 수 없는 원형 형태를 형성합니다. 전달은 접합 플라스미드의 경우와 유사합니다. 박테리아에서 다중 약물 내성의 진화에서 중요한 역할은 박테리아 염색체와 플라스미드 모두에 위치 할 수 있는 인테그론에 기인합니다. 이것은 유전 정보의 특수 운반체의 특정자가 전좌 유형으로, 저항성 유전자를 카세트로 결합하는 능력이며, 이 형태는 수신자 세포로 함께 전달됩니다.

인간과 동물에게 위험한 박테리아 사이에 다제 내성의 광범위한 현상으로 인한 세계적인 위협을 고려할 때, 이 연구의 주제는 인간과 동물로부터 분리된 박테리아의 내성 메커니즘입니다. 이 검토는 또한 선택된 박테리아 중 약물 내성 발생의 백분율 범위를 제시합니다.

 

건강, 공학, 과학, 과학기술정책, 보건의료정책, 생물, 유전질환, 융합과학

CRISPR 아기가 여전히 너무 위험한 이유

댓글 남기기

CRISPR 아기가 여전히 너무 위험한 이유 — 배아 연구는 도전을 강조합니다

사회가 유전 가능한 게놈 편집의 사회적, 윤리적 의미와 씨름하는 동안 기술적 장애물은 여전히 많습니다.

NEWS 10 March 2023

Why CRISPR babies are still too risky — embryo studies highlight challenges

https://www.nature.com/articles/d41586-023-00756-0

 

16 세포 단계의 인간 배아는 핀 끝에 있습니다. 연구원들은 게놈 편집 기술이 여전히 번식을 위한 배아에 사용될 만큼 충분히 안전하지 않다고 말합니다.

 

편집된 게놈을 가진 최초의 아이들이 태어난 지 4년이 넘었지만, 게놈 편집 기술은 여전히 번식할 인간 배아에 사용될 만큼 안전하지 않다고 제3차 인간 게놈 편집에 관한 국제 정상 회담 주최 측은 회의가 끝날 때 발표했다.

 

“유전 가능한 인간 게놈 편집은 현재로서는 받아들일 수 없다”라고 3월 8일 발표된 성명서에서 밝혔다. “유전 가능한 인간 게놈 편집의 안전성과 효능에 대한 전임상 증거가 확립되지 않았으며 사회적 논의와 정책 논쟁도 끝나지 않았습니다.”

 

이 성명서는 런던에서 배우자라고 불리는 배아 또는 생식 세포의 게놈을 미래 세대에게 전달할 수 있는 방식으로 변경할 가능성에 관한 토론과 토론의 끝에서 나왔습니다. 회의의 많은 회담은 배아에서 DNA 이중 나선의 두 가닥(일부 형태의 게놈 편집에서 필요한 단계)을 모두 끊는 불확실한 결과와 같은 기술 및 과학적 과제에 초점을 맞췄습니다.

 

이러한 도전 과제 외에도 사회는 기술을 배포해야 하는지에 대한 질문과 씨름해야 한다고 주최 측은 “유전 가능한 인간 게놈 편집의 책임 있는 사용을 위한 거버넌스 프레임워크와 윤리적 원칙이 마련되어 있지 않다”라고 말했다.

 

편집의 효과

일부 연구자들은 유전 가능한 게놈 편집이 유전 질환을 앓고 있는 사람들이 그러한 상태를 자녀에게 전달하는 것을 피하는 데 도움이 될 수 있다고 주장했습니다. 많은 경우에, 이것은 체외 수정 (IVF)과 주어진 유전 질환에 관한 결과 배아의 테스트를 결합하여 이미 수행할 수 있습니다. 그러나 모든 부부의 배아가 필연적으로 유전적 장애를 물려받을 때나 사용 가능한 모든 배아가 책임 있는 유전자를 가지고 있는 경우와 같이 항상 선택 사항은 아닙니다.

 

윤리와 사회 정의에 대한 광범위한 우려 외에도 배아 편집에는 배아, 결과 아동 및 해당 아동의 후손에게 해를 끼칠 가능성을 최소화하기 위해 안전하고 효과적인 게놈 편집 플랫폼이 필요합니다. 그러나 배아의 게놈 편집에 관한 대부분의 연구는 인간 배아에서 일어나는 일을 정확하게 반영하지 못할 수 있는 생쥐와 같은 동물 모델을 사용하여 수행되었습니다. 그리고 잠재적인 게놈 편집 요법이 성인 인간 세포에서 널리 연구되었지만, 배아는 일부 게놈 편집 도구로 인한 DNA 손상에 대해 성인 세포와 다르게 반응할 수 있습니다.

 

소수의 실험실만이 인기 있는 편집 시스템인 CRISPR-Cas9을 사용하여 인간 배아의 게놈을 직접 편집하려고 시도했으며, 이들 중 일부는 정상 회담에서 관련 결과를 발표했습니다.

 

Cas9 효소는 RNA의 유도 조각으로 지정된 부위에서 두 가닥의 DNA를 모두 분해하여 작동합니다. 그런 다음 세포는 두 끝을 함께 꿰매지만 때로는 그 과정에서 몇 개의 DNA 문자를 삭제하거나 삽입하는 오류가 발생하기 쉬운 메커니즘을 사용하거나 빠진 DNA를 연구원이 제공한 주형에서 복사한 서열로 대체하여 DNA 절단을 복구합니다. 배아에서 Cas9에 의해 생성된 DNA 절단은 일반적으로 주형 DNA를 사용하는 대신 오류가 발생하기 쉬운 경로를 사용하여 복구된다고 뉴욕시 컬럼비아 대학의 줄기세포 생물학자인 Deitrich Egli는 회의에서 말했다.

 

Egli와 다른 연구자들은 Cas9에 의해 만들어진 이중 가닥 파손의 결과에 대해서도 보고했습니다. 영국 케임브리지 대학의 발달 생물학자 캐시 니아칸(Kathy Niakan)은 CRISPR-Cas9을 사용하여 인간 배아를 편집할 때 발생하는 염색체의 넓은 영역의 명백한 손실에 대한 실험실의 경험에 관해 이야기했습니다. 포틀랜드의 Oregon Health & Science University의 생식 생물학자인 Shoukhrat Mitalipov는 또한 그의 실험실에서 인간 배아의 편집 사이트에서 큰 DNA 결실을 발견했으며 이러한 결실은 표준 테스트를 사용하여 감지되지 않을 수 있다고 말했습니다.

 

“이 단계의 인간 배아가 이런 종류의 개입을 정말로 용인할 수 있습니까?” 영국 옥스포드 대학의 생식 유전학자인 Dagan Wells는 인간 배아의 DNA 파괴에 대한 반응에 대해 보고했습니다. 그의 게놈 편집 연구 중 하나에서 배아의 약 40%가 깨진 DNA를 복구하지 못했습니다. 그 배아의 3분의 1 이상이 계속 발달하여 일부 세포에서 염색체 조각이 손실되거나 증가했다고 그는 말했습니다. 그러한 배아가 더 발달하도록 허용되면 자손의 건강을 위협할 수 있습니다. “이 결과는 정말로 경고입니다.”라고 그는 말했습니다.

 

더 나은 기술

CRISPR-Cas9 편집에는 DNA 나선의 두 가닥을 모두 끊지 않는 새로운 변형이 있습니다. 예를 들어, 염기 편집은 하나의 단일 DNA 문자를 다른 문자로 변환할 수 있으며, 프라임 편집이라는 기술을 통해 연구자들은 CRISPR-Cas9 편집보다 DNA 서열을 더 예측가능하게 삽입할 수 있습니다. 이러한 방법 중 어느 것도 이중 가닥 파손을 일으키지 않지만, CRISPR-Cas9만큼 철저히 연구되고 최적화되지는 않았습니다. 정상 회담에서 중국 쿤밍 과학 기술 대학의 발달 생물학자 Yuyu Niu는 한 종류의 염기 편집기가 붉은털원숭이 (Macaca mulatta) 배아에서 표적을 벗어난 DNA 돌연변이를 일으키지 않았지만 원치 않는 RNA 돌연변이를 일으켰다고 보고했습니다.

 

배아 편집의 대안은 난자와 정자와 같은 배우자 또는 이를 생성하는 줄기세포를 대신 편집하는 것입니다. 이것은 또한 배아를 편집하려는 노력이 배아의 모든 세포에서 성공하지 못하여 편집된 세포와 편집되지 않은 세포가 혼합된 자손을 초래할 수 있다는 우려를 회피할 것입니다. 정상 회담의 몇몇 연구자들은 실험실에서 배우자 생성에 대한 진전을 보고했지만, 생식 용도로 사용되는 인간 세포로 이를 수행하는 것은 여전히 어려움을 겪고 있습니다.

 

정상 회담 주최 측은 정책 입안자와 대중이 유전 가능한 게놈 편집에 어떤 제한을 가해야 하는지에 대해 고심하고 있음에도 불구하고 연구자들이 이러한 각 옵션을 계속 탐색할 것을 촉구했습니다. “우리는 여전히 연구가 진행되기를 열망하고 있습니다.”라고 정상 회담 조직위원회 위원장인 런던의 Francis Crick Institute의 발달 생물학자 Robin Lovell-Badge는 말했습니다. “동시에 이 기술이 사용되는지에 대해 더 많은 논쟁 해야 합니다.“

 

doi: https://doi.org/10.1038/d41586-023-00756-0

References

Alanis-Lobato, G. et al. Proc. Natl Acad. Sci. USA 118, e2004832117 (2021)

Liang, D. et al. Nature Commun. 14, 1219 (2023).

Kang, Y. et al. Sci. Adv. 8, eabo3123 (2022).

공학, 과학, 과학기술정책, 보건의료정책, 융합과학, 인공지능

채팅GPT: 연구를 위한 5가지 우선순위

댓글 남기기

대화형 AI는 과학의 게임 체인저입니다. 응답 방법은 다음과 같습니다.

 

COMMENT 03 February 2023

ChatGPT: five priorities for research

Conversational AI is a game-changer for science. Here’s how to respond.

Eva A. M. van Dis, Johan Bollen, Willem Zuidema, Robert van Rooij & Claudi L. Bockting

 

https://www.nature.com/articles/d41586-023-00288-7

 

작년 말 ChatGPT라는 챗봇이 출시된 이후 이러한 유형의 인공 지능(AI) 기술은 연구원이 작업하는 방식에 큰 영향을 미칠 것이 분명해졌습니다.

 

ChatGPT는 대규모 언어 모델(LLM)로, 데이터에서 자율적으로 학습하고 방대한 텍스트 데이터 세트에 대한 교육 후 정교하고 겉보기에 지능적인 쓰기를 생성할 수 있는 기계 학습 시스템입니다. 캘리포니아 샌프란시스코의 AI 회사인 OpenAI 및 다른 회사에서 출시한 일련의 모델 중 최신 모델입니다. ChatGPT는 다양한 주제에 대해 영어 및 기타 언어로 사용자와 설득력 있게 대화할 수 있는 최초의 모델 중 하나이기 때문에 흥분과 논란을 불러일으켰습니다. 무료이며 사용하기 쉽고 계속 배우고 있습니다.

 

이 기술은 과학과 사회에 광범위한 영향을 미칩니다. 연구원과 다른 사람들은 이미 ChatGPT 및 기타 대규모 언어 모델을 사용하여 에세이 및 강연을 작성하고, 문헌을 요약하고, 논문 초안을 작성 및 개선하고, 연구 격차를 식별하고 통계 분석을 포함한 컴퓨터 코드를 작성했습니다. 곧 이 기술은 실험을 설계하고, 원고를 작성 및 완성하고, 동료 검토를 수행하고, 원고를 수락하거나 거부하는 편집 결정을 지원할 수 있는 지점까지 발전할 것입니다.

 

대화형 AI는 연구 관행과 출판에 혁명을 일으켜 기회와 우려를 모두 창출할 가능성이 큽니다. 혁신 프로세스를 가속하고 출판 시간을 단축하며 사람들이 유창하게 글을 쓸 수 있도록 도와줌으로써 과학을 보다 공평하게 만들고 과학적 관점의 다양성을 높일 수 있습니다. 그러나 그것은 또한 연구의 질과 투명성을 떨어뜨리고 인간 연구자로서의 자율성을 근본적으로 바꿀 수 있습니다. ChatGPT 및 기타 LLM은 설득력이 있지만, 종종 잘못된 텍스트를 생성하므로 과학적 사실을 왜곡하고 잘못된 정보를 퍼뜨릴 수 있습니다.

 

우리는 이 기술의 사용이 불가피하다고 생각하므로 금지는 효과가 없을 것입니다. 연구 커뮤니티는 잠재적으로 파괴적인 이 기술의 의미에 관한 토론에 참여하는 것이 필수적입니다. 여기에서는 다섯 가지 주요 문제를 간략하게 설명하고 어디서부터 시작해야 하는지 제안합니다.

 

사람의 검증을 유지하십시오

LLM은 수년 동안 개발됐지만 데이터 세트의 품질과 크기가 지속해서 증가하고 사람의 피드백으로 이러한 모델을 바로잡는 정교한 방법으로 인해 갑자기 이전보다 훨씬 강력해졌습니다. LLM은 차세대 검색 엔진으로 이어질 것입니다. 복잡한 사용자 질문에 대한 상세하고 유익한 답변을 생성할 수 있습니다.

 

그러나 전문 연구에 대화형 AI를 사용하면 부정확성, 편견 및 표절이 발생할 수 있습니다. 우리는 ChatGPT에 문헌에 대한 심층적인 이해가 필요한 일련의 질문과 과제를 제시했으며 종종 거짓되고 오해의 소지가 있는 텍스트를 생성한다는 것을 발견했습니다. 예를 들어, ‘얼마나 많은 우울증 환자가 치료 후 재발을 경험합니까?’라고 물었을 때, 치료 효과가 일반적으로 오래 지속한다고 주장하는 지나치게 일반적인 텍스트를 생성했습니다. 그러나 수많은 고품질 연구에 따르면 치료 효과가 약해지고 치료 완료 후 첫해에 재발 위험이 29%에서 51% 사이입니다. 동일한 질의를 반복하면 더욱 상세하고 정확한 답변이 생성된다(보충 정보, 도 S1 및 S2 참조).

 

다음으로, 우리는 ChatGPT에 우리 중 두 명이 JAMA Psychiatry에서 저술한 체계적인 리뷰를 요약하도록 요청했습니다. 불안 관련 장애에 대한인지 행동 치료 (CBT)의 효과. ChatGPT는 몇 가지 사실적 오류, 허위 진술 및 잘못된 데이터를 포함하는 설득력 있는 응답을 조작했습니다(추가 정보, 그림 참조). S3). 예를 들어, 검토는 46개의 연구 (실제로는 69개를 기반으로)를 기반으로 했으며 더 걱정스럽게도 CBT의 효과를 과장했습니다.

 

이러한 오류는 ChatGPT의 교육 세트에 관련 기사가 없거나 관련 정보를 추출하지 못하거나 신뢰할 수 있는 출처와 덜 신뢰할 수 있는 출처를 구별할 수 없기 때문일 수 있습니다. 가용성, 선택 및 확증 편향과 같이 종종 인간을 잘못된 길로 이끄는 동일한 편향이 대화형 AI에서 재현되고 종종 증폭되는 것 같습니다.

 

 

ChatGPT를 사용하는 연구원은 허위 또는 편향된 정보에 의해 오도되어 자기 생각과 논문에 통합될 위험이 있습니다. 부주의한 리뷰어는 후광 효과로 인해 아름답고 권위 있는 산문으로 AI로 작성된 논문을 받아들이도록 속일 수 있으며, 몇 가지 두드러진 긍정적인 인상에서 지나치게 일반화하는 경향이 있습니다. 그리고 이 기술은 일반적으로 원본 출처 나 저자를 안정적으로 인용하지 않고 텍스트를 복제하기 때문에 이를 사용하는 연구원은 이전 작업에 대한 크레딧을 제공하지 않고 무의식적으로 알려지지 않은 수많은 텍스트를 표절하고 심지어 자신의 아이디어를 포기할 위험이 있습니다. 연구자가 ChatGPT 및 기타 LLM에 공개하는 정보는 모델에 통합될 수 있으며, 챗봇은 원래 소스를 인정하지 않고 다른 사람에게 제공할 수 있습니다.

 

연구자들이 연구에 LLM을 사용한다고 가정하면 학자들은 경계를 유지해야 합니다. 전문가 중심의 사실 확인 및 검증 프로세스는 필수 불가결합니다. LLM이 요약, 평가 및 리뷰를 정확하게 신속하게 처리할 수 있더라도 고품질 저널은 사람의 검증 단계를 포함하거나 이 기술을 사용하는 특정 응용 프로그램을 금지하기로 할 수 있습니다. 자동화 시스템에 대한 과도한 의존인 인간 자동화 편향을 방지하려면 책임의 중요성을 강조하는 것이 더욱 중요해질 것입니다. 우리는 인간이 항상 과학적 실천에 대한 책임을 져야 한다고 생각합니다.

 

책임에 대한 규칙 개발

텍스트가 기계나 인간으로부터 유래할 가능성을 예측하는 도구는 이미 사용할 수 있습니다. 이러한 도구는 제지 공장 및 약탈 저널에서 콘텐츠를 제조하기 위해 LLM의 불가피한 사용을 감지하는 데 유용할 수 있지만 이러한 탐지 방법은 진화된 AI 기술과 영리한 프롬프트에 의해 우회될 가능성이 큽니다. AI 챗봇과 AI 챗봇 탐지기 간의 헛된 군비 경쟁에 참여하기보다는 연구 커뮤니티와 출판사가 LLM을 무결성, 투명성 및 정직하게 사용하는 방법을 찾아야 한다고 생각합니다.

 

연구 논문의 저자 기여 진술 및 인정은 저자가 원고 및 분석을 준비하는 데 ChatGPT와 같은 AI 기술을 사용했는지와 정도를 명확하고 구체적으로 명시해야 합니다. 또한, 사용된 LLM을 표시해야 합니다. 이렇게 하면 편집자와 검토자가 잠재적인 편견, 부정확성 및 부적절한 출처 표시에 대해 원고를 보다 주의 깊게 조사하도록 경고합니다. 마찬가지로, 과학 저널은 예를 들어 제출된 원고를 선택할 때 LLM 사용에 대해 투명해야 합니다.

 

연구 기관, 출판사 및 자금 제공자는 출판된 기록 일부가 될 수 있는 모든 자료를 준비하는 데 대화형 AI의 사용에 대한 인식을 높이고 투명성을 요구하는 명시적인 정책을 채택해야 합니다. 게시자는 이러한 정책이 준수되었다는 저자 인증을 요청할 수 있습니다.

 

현재 LLM은 자신의 작업에 대한 책임을 질 수 없으므로 원고의 저자가 되어서는 안 됩니다. 그러나 연구자들이 연구에서 LLM의 정확한 역할을 정확히 찾아내는 것이 점점 더 어려워질 수 있습니다. 때에 따라 ChatGPT와 같은 기술은 저자의 프롬프트에 대한 응답으로 원고의 상당 부분을 생성할 수 있습니다. 다른 곳에서는 저자가 AI를 문법 또는 맞춤법 검사기로 사용하여 여러 번의 수정 및 개선 주기를 거쳤지만, 텍스트를 작성하는 데 사용하지는 않았을 수 있습니다. 앞으로 LLM은 텍스트 처리 및 편집 도구, 검색 엔진 및 프로그래밍 도구에 통합될 가능성이 큽니다. 따라서 그들은 저자가 기여의 성격이나 규모를 반드시 인식하지 않고도 과학 연구에 이바지할 수 있습니다. 이것은 저자, 표절 및 출처에 대한 오늘날의 이분법적 정의를 무시하며, 누군가가 저자인지 아닌지, 출처가 사용되었거나 사용되지 않았습니다. 정책은 적응해야 하지만 완전한 투명성이 항상 핵심입니다.

 

AI가 고안 한 발명은 이미 특허법에 대한 근본적인 재고를 일으키고 있습니다. AI를 훈련하는 데 사용되는 코드 및 이미지와 AI에 의해 생성된 코드 및 이미지의 저작권에 대한 소송이 제기되었습니다. (go.nature.com/3y4aery 참조). AI 작성 또는 지원 원고의 경우 연구 및 법률 커뮤니티는 텍스트에 대한 권리를 보유한 사람을 파악해야 합니다. AI 시스템이 훈련된 텍스트를 작성한 개인, AI를 생산 한 기업 또는 시스템을 사용하여 글쓰기를 안내한 과학자입니까? 다시 말하지만, 저자의 정의는 고려되고 정의되어야 합니다.

 

진정한 개방형 LLM에 투자

현재 거의 모든 최첨단 대화형 AI 기술은 AI 개발을 위한 리소스를 보유한 소수의 대형 기술 회사의 독점 제품입니다. OpenAI는 주로 Microsoft에서 자금을 지원하며 다른 주요 기술 회사는 유사한 도구를 출시하기 위해 경쟁하고 있습니다. 소수의 기술 회사의 검색, 워드 프로세싱 및 정보 액세스에 대한 거의 독점을 감안할 때 이는 상당한 윤리적 문제를 제기합니다.

 

연구 커뮤니티의 가장 시급한 문제 중 하나는 투명성 부족입니다. ChatGPT 및 이전 제품에 대한 기본 교육 세트 및 LLM은 공개적으로 사용할 수 없으며 기술 회사는 대화형 AI의 내부 작동을 숨길 수 있습니다. 이는 투명성과 개방형 과학을 향한 움직임에 반하는 것이며 챗봇 지식의 기원 또는 격차를 밝히기 어렵게 만듭니다. 예를 들어, 우리는 ChatGPT에 여러 연구원의 연구를 설명하도록 요청했습니다. 어떤 경우에는 h-지수 (연구의 영향을 측정하는 방법)를 기반으로 덜 영향력 있는 것으로 간주 될 수 있는 과학자들에 대한 자세한 설명을 생성했습니다. h-지수가 약 20인 연구자 그룹에는 성공했지만, h-지수가 80 이상인 과학자조차도 많이 인용되고 유명한 여러 과학자의 연구에 대한 정보를 전혀 생성하지 못했습니다.

 

이러한 불투명성에 대응하기 위해서는 오픈소스 AI 기술의 개발과 구현을 우선시해야 한다. 대학과 같은 비영리 조직은 일반적으로 LLM 개발의 빠른 속도를 따라잡는 데 필요한 계산 및 재정 자원이 부족합니다. 따라서 우리는 과학 자금 지원 기관, 대학, 비정부기구 (NGO), 정부 연구 시설 및 유엔과 같은 조직뿐만 아니라 기술 대기업이 독립적인 비영리 프로젝트에 상당한 투자를 해야 한다고 주장합니다. 이는 고급 오픈 소스, 투명하고 민주적으로 제어되는 AI 기술을 개발하는 데 도움이 될 것입니다.

 

비평가들은 그러한 협력이 빅테크와 경쟁할 수 없다고 말할 수도 있지만, 적어도 하나의 주로 학술 협력 인 BigScience는 이미 BLOOM이라는 오픈 소스 언어 모델을 구축했습니다. 기술 회사는 더 큰 커뮤니티 참여를 창출하고 혁신과 신뢰성을 촉진하기 위해 모델 및 코퍼스의 관련 부분을 오픈 소싱함으로써 이러한 프로그램의 이점을 누릴 수 있습니다. 학술 출판사는 LLM이 전체 아카이브에 액세스할 수 있도록 하여 모델이 정확하고 포괄적인 결과를 생성하도록 해야 합니다.

 

AI의 이점 수용

학계의 업무량과 경쟁이 증가함에 따라 대화형 AI를 사용해야 한다는 압박도 커지고 있습니다. 챗봇은 논문을 마무리하기 위해 노력하는 박사 과정 학생부터 보조금 제안서를 위해 빠른 문헌 검토가 필요한 연구자 또는 분석을 제출해야 하는 시간 압박을 받는 동료 검토자에 이르기까지 작업을 빠르게 완료할 기회를 제공합니다.

 

AI 챗봇이 이러한 작업에 도움이 될 수 있다면 결과를 더 빨리 게시하여 학계가 새로운 실험 설계에 집중할 수 있습니다. 이는 혁신을 크게 가속하고 잠재적으로 많은 분야에서 돌파구로 이어질 수 있습니다. 우리는 이 기술이 편견, 출처 및 부정확성과 관련된 현재의 치아 문제가 해결된다면 엄청난 잠재력이 있다고 생각합니다. 연구자가 특정 연구 관행에 대해 기술을 현명하게 사용하는 방법을 알 수 있도록 LLM의 유효성과 신뢰성을 조사하고 발전시키는 것이 중요합니다.

 

어떤 사람들은 챗봇이 의미를 이해하기보다는 훈련 세트에서 단어 간의 통계적 연관성을 배우기 때문에 LLM은 사람들이 이미 한 일을 기억하고 종합 할 수 있으며 창의적이고 개념적 사고와 같은 과학적 과정의 인간적 측면을 나타내지 않을 것이라고 주장합니다. 우리는 이것이 시기상조의 가정이며 미래의 AI 도구가 오늘날 도달할 수 없는 것처럼 보이는 과학적 과정의 측면을 마스터할 수 있다고 주장합니다. 1991 년 정액 논문에서 연구자들은 사람과 지능형 기술 간의 “지능형 파트너십”이 사람의 지적 능력을 능가할 수 있다고 썼습니다. 이러한 지능형 파트너십은 인간의 능력을 뛰어넘고 이전에는 상상할 수 없었던 수준으로 혁신을 가속화 할 수 있습니다. 문제는 자동화가 어디까지 갈 수 있고 얼마나 가야 하는가입니다.

 

AI 기술은 학업 기술을 재조정할 수 있습니다. 한편으로 AI는 예를 들어 학생의 작문 및 추론 능력을 향상하기 위한 피드백을 제공함으로써 학업 훈련을 최적화할 수 있습니다. 반면에 문헌 검색을 수행하는 능력과 같은 특정 기술의 필요성을 줄일 수 있습니다. 또한, 프롬프트 엔지니어링(대화형 AI 모델을 프롬프트하는 데 사용되는 텍스트를 디자인하고 제작하는 프로세스)과 같은 새로운 기술을 도입할 수도 있습니다. 특정 기술의 상실이 반드시 문제가 되는 것은 아니지만 (예를 들어, 대부분 연구자는 더 이상 손으로 통계 분석을 수행하지 않습니다), 커뮤니티로서 우리는 어떤 학문적 기술과 특성이 연구자에게 필수적인지 신중하게 고려해야 합니다.

 

성능에만 신경을 쓴다면 AI 기술이 발전함에 따라 사람들의 기여가 더 제한되고 모호해질 수 있습니다. 미래에는 AI 챗봇이 가설을 세우고, 방법론을 개발하고, 실험을 만들 수 있습니다. 데이터 분석 및 해석 및 원고 작성. 인간 편집자와 검토자 대신 AI 챗봇도 기사를 평가하고 검토할 수 있습니다. 우리는 아직 이 시나리오에서 어느 정도 떨어져 있지만, 대화형 AI 기술이 과학 출판 프로세스의 모든 단계에 점점 더 영향을 미칠 것이라는 데는 의심의 여지가 없습니다.

 

따라서 윤리학자를 포함한 학자들은 AI의 사용이 지식 생성의 잠재적 가속화를 만드는 것과 연구 과정에서 인간의 잠재력과 자율성의 상실 사이의 절충안에 대해 논의하는 것이 필수적입니다. 사람들의 창의성과 독창성, 교육, 훈련 및 다른 사람들과의 생산적인 상호 작용은 관련성 있고 혁신적인 연구를 수행하는 데 필수적일 것입니다.

 

논쟁의 폭을 넓히다

LLM의 파괴적인 잠재력을 고려할 때 연구 커뮤니티는 긴급하고 광범위한 토론을 조직해야 합니다. 첫째, 모든 연구 그룹은 즉시 회의를 열어 ChatGPT에 대해 논의하고 시도하는 것이 좋습니다(아직 시도하지 않은 경우). 그리고 교육자들은 학부생들과 그 사용과 윤리에 관해 이야기해야 합니다. 이 초기 단계에서 외부 규칙이 없는 경우 책임 있는 그룹 리더와 교사가 정직, 성실성 및 투명성으로 사용하는 방법을 결정하고 몇 가지 참여 규칙에 동의하는 것이 중요합니다. 연구에 이바지하는 모든 사람은 ChatGPT로 생성되었는지에 관계없이 자신의 작업에 대한 책임을 져야 함을 상기시켜야 합니다. 모든 저자는 텍스트, 결과, 데이터, 코드 및 참고 문헌을 신중하게 사실 확인할 책임이 있습니다.

 

둘째, 우리는 연구를 위한 LLM의 개발 및 책임 있는 사용에 관한 즉각적이고 지속적인 국제 포럼을 요구합니다. 초기 단계로 다양한 분야의 과학자, 기술 회사, 대규모 연구 자금 제공자, 과학 아카데미, 출판사, NGO, 개인 정보 보호 및 법률 전문가를 포함한 관련 이해 관계자를 위한 정상 회담을 제안합니다. 인간 유전자 편집과 같은 다른 파괴적인 기술에 대응하여 지침을 논의하고 개발하기 위해 유사한 정상 회담이 조직되었습니다. 이상적으로, 이 논의는 모든 관련 당사자를 위한 신속하고 구체적인 권고와 정책으로 이어져야 합니다. 우리는 이 포럼에서 논의될 수 있는 질문의 전체 목록을 제시합니다(‘토론을 위한 질문’ 참조).

 

해결해야 할 한 가지 주요 문제는 연구의 다양성과 불평등에 대한 함의입니다. LLM은 양날의 검이 될 수 있습니다. 예를 들어 언어 장벽을 제거하고 더 많은 사람이 고품질 텍스트를 작성할 수 있도록 함으로써 경기장을 평평하게 하는 데 도움이 될 수 있습니다. 그러나 대부분의 혁신과 마찬가지로 고소득 국가와 특권을 가진 연구자들은 자신의 연구를 가속하고 불평등을 확대하는 방식으로 LLM을 활용하는 방법을 신속하게 찾을 가능성이 있습니다. 따라서 토론에는 연구에서 과소 대표되는 그룹과 연구의 영향을 받는 지역 사회의 사람들이 포함되어 사람들의 생생한 경험을 중요한 자원으로 사용하는 것이 중요합니다.

 

사회의 다른 많은 영역과 마찬가지로 과학은 이제 AI 기술이 가장 소중한 가치, 관행 및 표준을 침해함으로써 유발된 계산에 직면해 있습니다. 기회를 수용하고 위험을 관리하는 데 중점을 두어야 합니다. 우리는 과학이 과학 작업을 가장 심오하고 만족스러운 기업 중 하나로 만드는 많은 중요한 측면인 호기심, 상상력 및 발견을 잃지 않고 대화형 AI의 이점을 누릴 방법을 찾을 것이라고 확신합니다.

 

토론을 위한 질문

 

대화형 AI에 대한 포럼에서 논의할 문제.

 

  • 어떤 연구 작업을 대규모 언어 모델 (LLM)에 외주해야 하거나 외주해서는 안 됩니까?

 

  • 연구자에게 필수적인 학문적 기술과 특성은 무엇입니까?

 

  • AI 지원 연구 프로세스에서 사람의 검증이 필요한 단계는 무엇입니까?

 

  • LLM을 해결하기 위해 연구 무결성 및 기타 정책을 어떻게 변경해야 합니까?

 

  • LLM은 연구원의 교육 및 훈련에 어떻게 통합되어야 합니까?

 

  • 연구자와 자금 제공자는 독립적인 오픈 소스 LLM의 개발을 어떻게 지원하고 모델이 과학 지식을 정확하게 나타내도록 할 수 있습니까?

 

  • LLM에 대해 어떤 품질 표준(예: 투명성, 정확성, 편향 및 출처 크레딧)을 기대해야 하며 LLM뿐만 아니라 표준을 담당하는 이해 관계자는 누구입니까?

 

  • 연구자들은 LLM이 연구의 형평성을 증진하고 불평등 확대의 위험을 피할 수 있도록 어떻게 보장할 수 있습니까?

 

  • 개방형 과학의 원칙을 향상하기 위해 LLM을 어떻게 사용해야 합니까?

 

  • LLM은 과학적 관행 (예: 특허, 저작권 및 소유권과 관련된 법률 및 규정)에 어떤 법적 영향을 미칩니까?

 

 

Nature 614, 224-226 (2023)

 

doi: https://doi.org/10.1038/d41586-023-00288-7

 

References

Grant, N. & Metz, C. The New York Times (21 December 2022).

Jelovac, A., Kolshus, E. & McLoughlin, D. M. Neuropsychopharmacol. 38, 2467–2474 (2013).

Kato, M. et al. Mol. Psychiatry 26, 118–133 (2021).

Vittengl, J. R., Clark, L. A., Dunn, T. W. & Jarrett, R. B. J. Consult. Clin. Psychol. 75, 475–488 (2007).

van Dis, E. A. M. et al. JAMA Psychiatry 77, 265–273 (2020).

Rich, A. S. & Gureckis, T. M. Nature Mach. Intell. 1, 174–180 (2019).

Thorndike, E. L. J. Appl. Psychol. 4, 25–29 (1920).

Skitka, L. J., Mosier, K. & Burdick, M. D. Int. J. Human-Comp. Stud. 52, 701–717 (2000).

George, A. & Walsh, T. Nature 605, 616–618 (2022).

Rudin, C. Nature Mach. Intell. 1, 206–215 (2019).

Salomon, G., Perkins, D. N. & Globerson, T. Edu. Res. 20, 2–9 (1991).

Melnikov, A. A. et al. Proc. Natl Acad. Sci. USA 115, 1221–1226 (2018).

건강, 과학, 과학기술정책, 보건의료정책, 생물, 융합과학, 의학

조류 독감 발병이 전염병이 되는 것을 막는 방법

댓글 남기기

야생 조류에서 질병의 확산을 추적하는 것부터 인간 백신을 업데이트하는 것까지 조류 인플루엔자를 억제하는 데 도움이 될 수 있는 조치가 있습니다.

NEWS EXPLAINER 01 March 2023

How to stop the bird flu outbreak becoming a pandemic

From tracking the disease’s spread in wild birds to updating human vaccines, there are measures that could help keep avian influenza in check.

Saima May Sidik

https://www.nature.com/articles/d41586-023-00591-3

 

조류 독감이 인간 전염병을 촉발할 가능성과 야생 동물과 양식 조류의 파괴에 대한 두려움이 높아지고 있습니다. 지난주 캄보디아에서 11세 소녀가 조류 독감에 걸려 비극적으로 사망했습니다. 이는 올해 초 밍크 농장을 통해 포유류에서 포유류로 바이러스가 퍼지고 페루 조류와 바다사자에게 대량 사망을 초래했다는 보고에 따른 것입니다. 2022년 초부터 미국에서는 50 백만 마리 이상의 가금류 조류와 유럽에서는 비슷한 수의 가금류가 이 질병으로 사망하거나 확산을 막기 위한 노력의 일환으로 사망했습니다. 조류 독감을 막을 수 있으며, 그렇다면 어떻게 막을 수 있습니까?

 

가금류 보호

가금류 농장은 현재 유행하고 있는 조류 인플루엔자인 H5N1과 싸움에서 핵심 전장입니다. 농장에서의 발병은 식량 안보를 위협하고 바이러스가 농장 노동자에게 퍼질 기회를 제공합니다. 수십 년 동안 농부들은 감염된 동물을 도태하여 질병을 통제했습니다. 그러나 이제 많은 국가에서 매달 수십 개의 농장에서 발병을 경험하면서 이것은 견딜 수 없게 되었습니다.

 

중국을 포함한 일부 국가에서는 조류 독감의 확산과 심각성을 제한하기 위해 가금류에 예방 접종하고 있으며 전 세계의 다른 정부는 현재 예방 접종 정책을 시행하거나 그렇게 할 것을 고려하고 있습니다. 기존 백신의 한 가지 문제점은 조류가 바이러스에 양성 반응을 보이게 하여 농부들이 새에게 H5N1이 없다고 보장할 수 없다는 것입니다. 이것은 “거대한 국제 무역 및 수출 영향”을 가지고 있다고 매디슨의 위스콘신 수의학 진단 연구소를 지휘하는 전염병 전문가인 Keith Poulsen은 말합니다.

 

과학자들은 이 문제를 해결할 수 있는 백신을 개발하는 초기 단계에 있습니다. 위스콘신-매디슨 대학의 미생물학자 아델 탈라트(Adel Talaat)와 그의 동료들은 바이러스 DNA의 작은 부분만을 사용하는 백신을 개발하고 있다. 다른 유전 영역을 표적으로 하는 검사는 백신을 접종한 새와 감염된 새를 구별할 수 있습니다.

 

가금류 농가들은 또한 바이러스를 막기 위해 더 다양한 조류 품종을 키울 수 있다고 보스턴 매사추세츠 대학의 생태 학자 니콜라 힐 (Nichola Hill)은 말합니다. 농부들이 조류 독감의 발생을 탐색한 오랜 역사가 있는 아시아에서는 일부 농부들이 바이러스에 덜 취약한 품종으로 전환했습니다.

 

야생 동물 보호

H5N1은 지난 한 해 동안 야생 조류 개체군에 자리 잡았지만 “우리가 물건을 붙일 수 있는 작은 반창고”가 있다고 아테네 조지아 대학의 전염병 학자 데이비드 스톨크 네히트 (David Stallknecht)는 말합니다. 야생 조류에게 백신을 투여하는 것은 논리적으로 어렵습니다. 따라서 대부분은 새들은 감염을 통해 질병에 대한 저항력을 키워야 하며 많은 사람이 그 과정에서 죽을 것입니다.

 

백신은 특정 종을 보호하는 데 도움이 될 수 있다고 Stallknecht는 말합니다. 예를 들어, 대머리 독수리 (Haliaeetus leucocephalus)는 바이러스에 의해 심각하게 영향을 받을 수 있으며 일부 과학자들은 조류 독감이 인구에 미치는 장기적인 영향에 대해 우려하고 있습니다. 그러나 이 전략은 “지구상에 유지하기 위해 할 수 있는 모든 일을 하고 있을 때” 심각한 위협을 받는 종에만 사용될 수 있다고 그는 말합니다.

 

현재 Stallknecht와 다른 야생 동물 연구자들은 조류 독감에 가장 심각한 영향을 받는 야생 조류 종과 이것이 질병의 확산에 미치는 영향을 이해하려고 노력하고 있습니다. 과학자들이 보존 조치를 목표로 삼는 것을 도울 뿐만 아니라, 이 연구는 농부들에게 조류 독감이 언제 진행될지에 대한 더 나은 아이디어를 제공할 수 있습니다.

 

그 지식은 농부들이 야생 조류를 유인할 수 있는 곡물을 청소하고 농장에 들어가기 전에 장화를 씻는 것과 같은 가금류 보호 조치를 목표로 삼는 데 도움이 될 수 있습니다. “일 년 365일 그렇게 하는 것은 매우 어렵습니다.”라고 Hill은 말합니다. 더 짧은 시간 프레임이 더 실현 가능합니다.

 

인간 전염병 차단

캄보디아에서 소녀의 죽음과 그녀의 아버지도 조류 인플루엔자 양성 반응을 보였다는 사실은 조류 독감이 사람들에게 광범위한 감염을 촉발할 수 있는지, 심지어 전염병을 촉발할 수 있는지에 대한 우려를 새롭게 했습니다. “그것은 말하기 어렵다”라고 네덜란드 로테르담에 있는 에라스무스 대학 의료 센터의 수의학 병리학자인 Thijs Kuiken은 말한다.

 

오늘날의 H5N1 바이러스의 조상 버전은 약 25년 동안 조류 사이에서 순환해 왔으며 아직 인간 사이에 퍼질 수 있는 능력을 얻지 못했습니다. 이로 인해 Kuiken은 인간 전염병의 위험이 낮다고 생각합니다. 그러나 최근 야생 조류 사례가 증가하고 바이러스가 포유류 간에 전염될 수 있다는 발견은 바이러스가 인간에게 퍼지기 시작할 위험을 증가시킵니다. Kuiken은 가금류 부문에서 일하는 사람들에 대한 감시를 강화하여 감염된 사람이 신속하게 감지되고 격리되기를 원합니다.

 

조류 독감이 인간 전염병을 유발하면 질병 퇴치를 위한 여러 가지 도구가 있습니다. 조류 독감에 대해 승인된 인간 백신이 존재하며 세계 보건기구 (WHO)는 H5N1의 진화를 모니터링하여 이러한 백신이 적절하게 업데이트될 수 있도록 합니다. 미국에서는 생물 의학 고급 연구 개발 당국이 백신을 비축하고 있지만, 공급이 너무 적어 전 세계에 예방 접종을 하는 데 사용할 수 없습니다. 인간에 관한 동물 연구 및 관찰 데이터에 따르면 항바이러스 약물 타미플루는 사람의 H5N1에 효과적입니다. 내성 균주에 대한 보고가 있었지만. 안면 마스크를 포함한 비의약품 도구도 질병 확산을 제한할 수 있습니다.

 

여전히 COVID-19로 휘청거리는 세계에게 또 다른 전염병의 전망은 놀라운 일입니다. 조류 독감의 현재 인간 사망률은 약 50%이지만, 바이러스가 상부 호흡기의 세포를 감염시키는 능력을 얻는다면 (인간 대 인간 전파를 위한 전제 조건) 떨어질 가능성이 있습니다. 그러나 몇몇 과학자들은 H5N1 대유행이 이미 사용 가능한 약물과 백신, 그리고 COVID-19의 결과로 개발된 mRNA 백신과 같은 도구 때문에 COVID-19보다 더 관리하기 쉬울 것이라고 말합니다. Stallknecht는 “엉망이 되지 않을 것이라고 말하는 것은 아니지만 아마도 가능한 한 나쁘지는 않을 것”이라고 말합니다.

 

Hill은 인류가 바이러스를 억제하는 데 필요한 도구를 가지고 있다는 데 동의합니다. “문제는 이 시점에서 통제하고 인간 전염병을 예방하는 것”이라고 그녀는 말합니다. “그리고 저는 이 두 가지 모두 달성 가능한 목표라고 생각합니다.”

doi: https://doi.org/10.1038/d41586-023-00591-3

References

Smith, J. R. J. Antimicrob. Chemother. 65, ii25–ii33 (2010).

de Jong, M. D. et al. N. Engl. J. Med. 353, 2667–2672 (2005).