<input type="button" value="Выбрать" name="vibor" onclick="openIt(event);">

function openIt(evt)
{
ifrm=document.createElement("iframe");
ifrm.setAttribute("src","kat.php");
ifrm.style.width = "400px";
ifrm.style.height = "200px";
ifrm.frameBorder =  0 ;

var evt = window.event || evt;
var leftPos = evt.clientX;
var topPos  = evt.clientY +  15 ; //т.к. привязываемся не к кнопке, а к клику, то + 15  чтобы фрейм на кнопку не наехал

ifrm.style.position = 'absolute';
ifrm.style.left = leftPos + 'px';
ifrm.style.top = topPos + 'px';

document.body.appendChild(ifrm);
}

var evt = window.event || evt;
var obj = evt.target || evt.srcElement;
var leftPos =  0 ;
var topPos = obj.offsetHeight;
while( obj.tagName != "BODY" && obj.tagName != "HTML")
{
      leftPos += objParent.offsetLeft;
      topPos += objParent.offsetTop;
      obj = obj.offsetParent;
}

      leftPos += obj.offsetLeft;
      topPos += obj.offsetTop;