> Если две разные реализации libc, то их so должны отличаться в названии,
> приложение слинкуется с нужной.
> И почему апа под clang libc.so собранная gcc  не будет работать?
> Что этому мешает? Тот же эльф, хочешь и линкуйся.

(libY собрана gcc и слинкована с glibc)
libY -> glibc

(X собрана clang'ом и слинкована с libc, кроме того она использует libY)
X -> libc
  -> libY

Запускаем X, работает динамический загрузчик. Далее X использует f1 из libc, libY использует f1 из glibc. По правилам (текущим) линковки глобальный символ f1 должен быть взят один раз. И X и libY начнут использовать f1 из одной библиотеки.

Что касается api и стандарта C/C++.
Есть по стандарту errno. Но в одной библиотеке это переменная (кажется так было в старых версиях glibc), а в другой - макрос, раскрывающейся в вызов функции. Соответственно, уже нельзя компилировать с одной C-библиотекой, а запускать с другой.

Возможно с C-библиотекой ситуация значительно проще. Но есть еще C++-библиотека.