可否向日本税务署申请把税单及其他联络信件寄至日本以外的国家地址？

可以，您在日本购买的房产您又不在日本居住时，并且在没有申请纳税管理有的情况下，日本税务署会把税单寄到您国内地址（房产购买登记时的地址）。