본문으로 건너뛰기

WHAT DOES IT MEAN TO BE A TRANSFORMER? INSIGHTS FROM A THEORETICAL HESSIAN ANALYSIS

· 약 6분
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 담당교수

논문 정보

  • 제목 (Title): WHAT DOES IT MEAN TO BE A TRANSFORMER? INSIGHTS FROM A THEORETICAL HESSIAN ANALYSIS
  • 저자 (Authors) 및 소속 (Affiliations):
    • Weronika Ormaniec (ETH Zürich)
    • Felix Dangel (Vector Institute)
    • Sidak Pal Singh (ETH Zürich)
  • 학회 또는 저널명 (Conference or Journal Name): International Conference on Learning Representations (ICLR) 2025
  • 제출일 또는 발행일 (Submission or Publication Date): 2025년 3월 17일 (v2 기준)
  • DOI (Digital Object Identifier): 제공되지 않음.
  • 기타 식별 가능한 정보: - 연구 분야: 딥러닝 이론, 최적화 - arXiv ID: arXiv:2410.10986v2 [cs.LG]

Mamba: Linear-Time Sequence Modeling with Selective State Spaces

· 약 8분
Carnegie Mellon University
Princeton University

논문 정보

  • 제목 (Title): Mamba: Linear-Time Sequence Modeling with Selective State Spaces
  • 저자 (Authors) 및 소속 (Affiliations):
    • Albert Gu (Machine Learning Department, Carnegie Mellon University)
    • Tri Dao (Department of Computer Science, Princeton University)
  • 학회 또는 저널명 (Conference or Journal Name): arXiv preprint (arXiv:2312.00752v2 [cs.LG])
  • 제출일 또는 발행일 (Submission or Publication Date): 2024년 5월 31일 (v2)

섬유의 변퇴색 기준 판정 내광성 등급 기반 이상치 처리 기법

· 약 6분
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사과정생
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 담당교수

논문 정보

  • 제목 (Title): 섬유의 변퇴색 기준 판정 내광성 등급 기반 이상치 처리 기법
  • 저자 (Authors) 및 소속 (Affiliations):
    • 이대규 (경북대학교 IT대학 컴퓨터학부)
    • 서강복 (경북대학교 IT대학 컴퓨터학부)
    • 김덕엽 (경북대학교 IT대학 컴퓨터학부)
    • 이우진 (경북대학교 IT대학 컴퓨터학부)
  • 학회 또는 저널명 (Conference or Journal Name): 2023 한국컴퓨터종합학술대회 (KCC 2023)
  • 제출일 또는 발행일 (Submission or Publication Date): 2023년 6월

데이터 변화율 기반 회귀 체인을 이용한 생분해성 섬유 원사 물성 예측 모델 성능 향상

· 약 7분
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사과정생
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 학부연구생
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 학부연구생
경북대학교 컴퓨터학부
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 담당교수

논문 정보

  • 제목 (Title): 데이터 변동률 기반 회귀 체인을 사용한 생분해성 섬유 원사 물성 예측 모델 개선 (Improving Biodegradable Fiber Yarn Property Prediction Model Using Data Change Rate-Based Regression Chain)
  • 저자 (Authors) 및 소속 (Affiliations): 김덕엽, 류영교, 강보권, 김태환, 이우진 (경북대학교 IT대학 컴퓨터학부)
  • 학회 또는 저널명 (Conference or Journal Name): 2024 한국소프트웨어종합학술대회 (KSC 2024)
  • 제출일 또는 발행일 (Submission or Publication Date): 2024년
  • 키워드 (Keywords): 생분해성 섬유, 물성 예측, 회귀 체인, 데이터 변동률, 상관 분석, 오류 전파
  • 초록 (Abstract): 생분해성 섬유 원사는 다양한 물성을 가지며, 이들 물성 간에 종속성이 존재할 경우 **회귀 체인(Regression Chain)**을 활용하여 예측 모델의 성능을 향상시킬 수 있다. 일반적으로 데이터 간 종속성은 상관 분석으로 평가하지만, 섬유 방사 데이터는 목표 물성에 따라 우선적으로 생산되므로 데이터 수집 및 분포가 불균형하여 상관 분석 결과의 신뢰성이 떨어지는 문제가 있다. 잘못 평가된 종속성을 기반으로 회귀 체인을 적용하면 오류 전파(Error Propagation)가 발생하여 오히려 모델의 예측 성능을 저하시킬 수 있다. 따라서 본 논문에서는 이러한 문제를 해결하기 위해, 원사 물성 데이터의 변동률을 기반으로 물성 간 종속성을 새롭게 평가하고 이를 회귀 체인에 적용하여 물성 예측 모델의 성능을 개선하는 방법을 제안한다. 원사의 물성들은 일정 범위의 연속형 데이터이므로, 특정 공정 변수에 따른 각 물성의 데이터 변동률 패턴이 유사하다면 두 물성 간에 강한 종속성이 있다고 볼 수 있다. 제안된 방법의 효과는 기존 단순 예측 모델과 데이터 변동률 기반 회귀 체인 모델의 성능 비교를 통해 검증한다.
  • 주요 연구 내용 (Main Research Content/Methodology):
    • 생분해성 섬유 원사 물성 예측을 위한 회귀 체인 기법의 성능 향상 방법을 제안함.
    • 기존 상관 분석의 한계를 극복하기 위해 데이터 변동률 기반 종속성 평가 방법을 제안함.
    • 물성 간 종속성을 정확하게 파악하여 회귀 체인에서 오류 전파 문제를 해결함.
    • 제안 방법의 효과를 기존 단순 예측 모델과 비교하여 검증함.
  • 주요 결과 및 결론 (Key Findings and Conclusion):
    • 데이터 변동률 기반 종속성 평가가 직접 상관 분석보다 더 신뢰할 수 있는 결과를 제공함.
    • 인장신도와 체인을 적용했을 때 MAE 13% 개선, MSE 20% 개선, R² 5% 개선을 달성함.
    • 잘못된 종속성 평가로 인한 오류 전파 문제를 효과적으로 해결함.
    • 불균형한 산업 데이터에서 변수 간 숨겨진 종속성을 파악하는 새로운 접근법을 제시함.
  • 기여점 (Contributions):
    • 데이터 분포가 불균형한 섬유 방사 데이터에서 기존 상관 분석의 한계를 극복하는 새로운 종속성 평가 방법을 제안함.
    • 데이터 변동률 기반 분석을 통해 물성 간 실제 물리적 종속성을 더 정확하게 파악함.
    • 회귀 체인에서 오류 전파 문제를 해결하여 예측 모델의 성능을 효과적으로 향상시킴.
  • DOI (Digital Object Identifier): 제공되지 않음.
  • 기타 식별 가능한 정보:
    • 연구 분야: 인공지능, 기계 학습, 섬유 공학, 데이터 분석
    • 대상 공정: 생분해성 섬유(PLA) 방사 공정
    • 데이터셋: 총 1,998개의 데이터셋 (PLA 원료 용융지수 1개, 9개 방사 공정 변수, 6개 주요 물성)

물성 예측 모델 기반 방사 공정 역설계

· 약 7분
경북대학교 컴퓨터학부
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사과정생
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 담당교수

논문 정보

  • 제목 (Title): 물성 예측 모델 기반 방사 공정 역설계 (Reverse Design of Spinning Process Based on Physical Property Prediction Model)
  • 저자 (Authors) 및 소속 (Affiliations): 박세찬, 김덕엽, 서강복, 이우진 (경북대학교 컴퓨터학부)
  • 학회 또는 저널명 (Conference or Journal Name): 2023년 한국정보처리학회 춘계학술대회 (KCSE 2023)
  • 제출일 또는 발행일 (Submission or Publication Date): 2023년 5월

생분해성 섬유 인장강도 및 신율 예측 모델 개발: 데이터 불균형 및 측정 오차 고려

· 약 6분
경북대학교 컴퓨터학부
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사과정생
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 담당교수

논문 정보

  • 제목 (Title): 데이터 불균형과 측정 오차를 고려한 생분해성 섬유 인장 강신도 예측 모델 개발 (The Development of Biodegradable Fiber Tensile Tenacity and Elongation Prediction Model Considering Data Imbalance and Measurement Error)
  • 저자 (Authors) 및 소속 (Affiliations): 박세찬, 김덕엽, 서강복, 이우진 (경북대학교 컴퓨터학부)
  • 교신 저자 (Corresponding Author): 이우진 (woojin@knu.ac.kr)
  • 학회 또는 저널명 (Conference or Journal Name): 정보처리학회논문지/소프트웨어 및 데이터 공학 (KIPS Trans. Softw. and Data Eng.)
  • 볼륨 및 호 (Volume and Issue): 제11권 제12호
  • 제출일 또는 발행일 (Submission or Publication Date): 2022년 12월

생분해성 섬유 방사 공정 데이터 특성을 고려한 물성 예측 모델 개발

· 약 6분
경북대학교 컴퓨터학부
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사과정생
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 박사
경북대학교 컴퓨터학부 소프트웨어테스팅연구실 담당교수

논문 정보

  • 제목 (Title): 생분해성 섬유 방사 공정 데이터 특성을 고려한 물성 예측 모델 개발 (The Development of Property Prediction Model in Consideration of Biodegradable Fiber Spinning Process Data Characteristics)
  • 저자 (Authors) 및 소속 (Affiliations): 박세찬, 김덕엽, 서강복, 이우진 (경북대학교 컴퓨터학부)
  • 학회 또는 저널명 (Conference or Journal Name): ASK 2022 학술발표대회 논문집 (29권 1호)
  • 제출일 또는 발행일 (Submission or Publication Date): 2022년

Attention Is All You Need

· 약 19분
Google Brain
Google Brain
Google Research
Google Research
Google Research
University of Toronto (Google Brain에서 연구 수행)
Google Brain
Google Research

논문 정보

  • 제목 (Title): Attention Is All You Need
  • 저자 (Authors) 및 소속 (Affiliations):
    • Ashish Vaswani (Google Brain)
    • Noam Shazeer (Google Brain)
    • Niki Parmar (Google Research)
    • Jakob Uszkoreit (Google Research)
    • Llion Jones (Google Research)
    • Aidan N. Gomez (University of Toronto; Work performed while at Google Brain)
    • Łukasz Kaiser (Google Brain)
    • Illia Polosukhin (+; Work performed while at Google Research)
  • 학회 또는 저널명 (Conference or Journal Name): 31st Conference on Neural Information Processing Systems (NIPS 2017), Long Beach, CA, USA
  • 제출일 또는 발행일 (Submission or Publication Date): 2017년 12월 (NIPS 2017 학회 발표). 이 문서는 2023년 8월 2일자 arXiv:1706.03762v7 버전. 최초 arXiv 제출은 2017년 6월 12일.