GCC에서 실행 가능한 스택 없이 중첩 함수 간접 호출

(uecker.codeberg.page)

Hacker News2026년 8월 29일개발자 도구

GCC의 중첩 함수 사용 시 보안 취약점인 실행 가능한 스택(Executable Stack) 없이도 함수를 간접 호출할 수 있는 기술적 우회 방법을 제시하며, 이는 보안성과 기능성을 동시에 확보할 수 있는 중요한 진보를 의미합니다.

이 글의 핵심 포인트

1GCC의 중첩 함수 사용 시 발생하는 실행 가능한 스택(Executable Stack) 문제 해결 방안 제시
2트램펄린에서 코드 주소와 정적 체인(static chain)을 추출하여 직접 호출하는 우회 기술 제안
3__builtin_call_with_static_chain을 활용하여 스택의 실행 권한을 제거(non-executable stack) 가능
4트램펄린을 함수 디스크립터로 활용하여 호출 시점에 해석(interpreting)하는 새로운 아이디어 제시
5noplate 라이브러리를 통한 실험적인 구현 사례 공유

이 글에 대한 공공지능 분석

왜 중요한가?

기존 GCC의 중첩 함수 구현 방식은 보안상 위험한 '실행 가능한 스택'을 요구하지만, 이 기술은 스택 실행 권한을 제거하면서도 동일한 기능을 구현할 수 있게 하여 시스템 보안 수준을 높입니다.

어떤 배경과 맥락이 있나?

저수준 시스템 프로그래밍과 컴파일러 최적화 분야에서 보안 취약점(Buffer Overflow 등)을 방지하기 위해 NX(No-Execute) 스택 적용은 필수적이며, 이를 유지하면서 고급 언어 기능을 사용하는 것이 핵심 과제입니다.

업계에 어떤 영향을 주나?

임베디드, 보안 솔루션, 시스템 라이브러리 개발 스타트업은 보안 규정을 준수하면서도 GCC의 강력한 기능을 활용할 수 있는 유연성을 확보하게 됩니다.

한국 시장에 어떤 시사점이 있나?

보안이 강조되는 국내 IoT 및 보안 소프트웨어 시장에서, 성능 저하 없이 보안 취약점을 원천 차단할 수 있는 이러한 저수준 최적화 기술은 제품의 경쟁력을 높이는 핵심 요소가 될 것입니다.

이 글에 대한 큐레이터 의견

이 기술은 보안과 기능성 사이의 고전적인 트레이드오프를 해결하려는 매우 영리한 접근입니다. 개발자는 실행 가능한 스택이라는 보안 구멍을 막으면서도, 중첩 함수가 제공하는 편리한 콜백 메커니즘을 포기하지 않아도 됩니다. 특히 트램펄린을 일종의 '함수 디스크립터'로 해석하여 호출하는 아이디어는 매우 혁신적입니다.

다만, 이 방식은 트램펄린을 생성하는 비용 자체를 없애지는 못하며, 컴파일러가 호출을 최적화(devirtualization)하는 것을 방해할 수 있다는 리스크가 있습니다. 또한, 런타មាន에 트램펄린의 구조를 파싱하는 로직이 추가되므로 코드 복잡도가 증가할 수 있습니다. 따라서 극도의 성능이 요구되는 핵심 루프보다는, 보안이 최우선인 시스템 인터페이스나 콜백 처리 로직에 선별적으로 적용하는 전략이 필요합니다.

원문 보기 →