הרבי הריי"ץ מינה את ר' פינחס אלטהויז לשמש בא כוחו בארץ הקודש. בהיותו ביחידות ביקש ר' פיניע: "מכיוון שכיום מצויה כתובתו של הרבי בידי כל ילד וילדה, ומסוגל כל אחד לכתוב אל הרבי ככל העולה על רוחו, מבקש הנני שלשון הרע אודותיי לא יתקבל". הרבי האזין לדבריו ואחר-כך חייך, הנהן בראשו הקדוש ואמר: "טוב, פיניע".