אם בתנ"ך כתוב: "בֵּין הַחֹמֹתַיִם" אין סיבה שזה לא יהיה טוב לביאליק.
וכמדומני (אם כי איני מבטיח) שלאחרונה אישרה גם האקדמיה ללשון את השימוש בזוגי הנגזר מצורת הרבים.
http://hebrew-academy.org.il/2014/03/09/מליאת-האקדמיה-ללשון-העברית-אישרה-את-המ/
כאן:
האקדמיה החליטה שלא לפסול את גזירת הזוגי מן הרבים. אמנם דרך המלך לגזירת צורות הזוגי היא מצורות היחיד, כגון שְׂפָתַיִם (ולא "שְׂפוֹתַיִם"), נְקֻדָּתַיִם מן נְקֻדָּה (ולא מן נְקֻדּוֹת), רַגְלַיִם (לפי נטיית היחיד רַגְלי, רַגְלך). ואולם במקורות, בספרות החדשה ובלשון הדיבור קיימות גם צורות זוגי שבבסיסן עומדת צורת ריבוי. כך הן הצורות המקראיות דְּלָתַיִם (על בסיס דְּלָתות), חוֹמוֹתַיִם (מן 'חומות'), ובספרות החדשה בֻּבּוֹתַיִם (בשיר ילדים ידוע של ח"נ ביאליק) ועוד ועוד. לפי החלטה זו אין לפסול את הצורה קומוֹתיים לצד קומָתיים.
לפי אתר "השפה העברית" חומותיים הוא אחד מהיוצאים מהכלל של צורת הזוגי, אבל הכלל הוא "על פי האקדמיה ללשון, יש לגזור מילים אלה מצורת היחיד בלבד."
באתר האקדמיה מצאתי:
"2.2.2 שמות בסיומת הזוגי
דרך המלך לגזירת צורות הזוגי היא מצורות היחיד, כגון רַגְלַיִם, שְׂפָתַיִם, אַמָּתַיִם, נְקֻדָּתַיִם ועוד. עם זאת בעברית לתולדותיה מוכרות צורות זוגי שבבסיסן עומדת צורת ריבוי, כגון דְּלָתַיִם, לְחָיַיִם, טְפָחַיִם,[2] לוּחוֹתַיִם, חוֹמוֹתַיִם. צורות על דרך זו מותרות, וחלקן אף אין נוהגת כנגדן צורה אחרת.
לא ברור לי אם מ"צורות על דרך זו מותרות" נובע היתר כללי ל"דקותיים", "בובותיים" וכו' או שההתייחסות היא רק למה שפורט לפני כן.
בעקבות הערה של trilliane בזלמן אחר, עלה בדעתי שעל הייחוד של האחד (הה!) אפשר ללמוד גם מכך שהסודר הראשון (הה!) אינו דומה כלל למילה "אחד" בעוד כל האחרים נגזרים מהמספר המונה (שניים - שני וכו'). באנגלית, כידוע, זה קצת פחות מודגש.