optimize hot paths of getc with manual shrink-wrapping
authorRich Felker <dalias@aerifal.cx>
Tue, 16 Oct 2018 05:08:21 +0000 (01:08 -0400)
committerRich Felker <dalias@aerifal.cx>
Thu, 18 Oct 2018 03:16:35 +0000 (23:16 -0400)
commitdd8f02b7dce53d6b1c4282439f1636a2d63bee01
tree22b57b941720ddefb64108da93268b2ea288567a
parent7136836e14e5286afe74a354c289601375bd472d
optimize hot paths of getc with manual shrink-wrapping

with these changes, in a program that has not created any threads
besides the main thread and that has not called f[try]lockfile, getc
performs indistinguishably from getc_unlocked. this was measured on
several i386 and x86_64 models, and should hold on other archs too
simply by the properties of the code generation.

the case where the caller already holds the lock (via flockfile) is
improved significantly as well (40-60% reduction in time on machines
tested) and the case where locking is needed is improved somewhat
(roughly 10%).

the key technique used here is forcing the non-hot path out-of-line
and enabling it to be a tail call. a static noinline function
(conditional on __GNUC__) is used rather than the extern hiddens used
elsewhere for this purpose, so that the compiler can choose
non-default calling conventions, making it possible to tail-call to a
callee that takes more arguments than the caller on archs where
arguments are passed on the stack or must have space reserved on the
stack for spilling the. the tid could just be reloaded via the thread
pointer in locking_getc, but that would be ridiculously expensive on
some archs where thread pointer load requires a trap or syscall.
src/stdio/fgetc.c
src/stdio/getc.c
src/stdio/getc.h [new file with mode: 0644]
src/stdio/getchar.c